Schutz der Persönlichkeitsrechte ist Plattformpflicht.

Angesichts der jüngsten Welle sexualisierter Deepfakes und der missbräuchlichen Nutzung von Nutzerfotos insbesondere durch das KI-Tool „Grok“ von Elon Musk fordern wir endlich eine konsequente Plattformregulierung. 

Der Trend, Profilbilder oder Alltagsfotos mittels KI-Werkzeugen ohne Einwilligung der betroffenen Person in sexualisierte Darstellungen zu überführen, ist kein technisches Versehen, sondern das Resultat problematischer Anreize wie etwa ein „spicy mode“, um gezielt sexualisierte Darstellungen zu erzeugen. Die Verbreitung sexualisierter Inhalte ohne Einwilligung erfolgt auf großen Plattformen wie X, die damit EU-Recht verletzen und etwa der Pflicht der Risikominderung zum Schutz vor digitaler Gewalt gemäß des Digital Services Act offensichtlich nicht nachkommen. 

Es ist inakzeptabel, Nutzer*innen für Sicherheitslücken verantwortlich zu machen, die durch die Plattformen selbst geschaffen wurden und so zu digitaler Gewalt führen. Wer Betroffenen rät, weniger Fotos zu teilen, normalisiert Gewalt, anstatt Konzerne wie X und xAI zur Verantwortung zu ziehen. Wer die Technologie bereitstellt und von der Verweildauer auf seiner Plattform profitiert, muss auch die uneingeschränkte Haftung für die Sicherheit seiner Infrastruktur übernehmen.

Wir fordern: 

• Soziale Medien wie X müssen ihrer Pflicht zum Schutz vor geschlechtsspezifischer Gewalt und der Persönlichkeitsrechte gemäß europäischem Recht endlich nachkommen, was sie kaum von sich aus tun. Daher müssen Regelverletzungen stärker geprüft werden und Strafzahlungen zufolge haben, die Konzerne wie jene des Musk-Imperiums auch empfindlich treffen.
• Die Erstellung und Verbreitung bildbasierter sexualisierter Gewalt muss explizit unter Strafe gestellt werden.
• KI-Werkzeuge und Apps, die explizit auf die Erstellung bildbasierter sexualisierter Gewalt ausgerichtet sind, müssen verboten werden
• Die IT-Produkthaftung erstreckt sich zwar inzwischen auch auf KI, muss jedoch auf digitale Gewalt erweitert werden. Denn Persönlichkeitsrechte sind als Standard unverhandelbar und ihr Schutz ein Teil der Cybersicherheit. Das Recht am eigenen Bild und der Schutz vor sexualisierter Gewalt müssen integraler Bestandteil des Produktdesigns sein.