- ingame
- Gaming
- Streaming
Stand:
Von: Janik Boeck
KommentareDrucken
KI-generierte Bilder und Texte begeistern viele. In einigen Fällen wurde die Technologie missbraucht. Von großen Twitch-Streamerinnen wurden Deepfakes erstellt.
Hamburg – Im Internet feiert die Mehrheit gerade die Leistungsfähigkeit von Text- und Bild-KIs, die innerhalb weniger Minuten Hausarbeiten, Gedichte oder Kunstwerke schaffen. Die Technologie hat aber auch Schattenseiten. Mancheine*r nutzt die KI in den Tiefen des Internets für schmutzige Bilder oder Filme. So gibt es von großen Streamerinnen auf Twitch perverse Deepfakes. Ein anderer Streamer sah sie sich an, wurde erwischt und entschuldigte sich dann unter Tränen. Aber ist das Erstellen solcher Bilder strafbar?
Twitch-Streamer Atrioc schaut KI-generierte Schmuddelfilme von Pokimane und anderen Streamerinnen
Was ist passiert? In einem Livestream zeigte der US-amerikanische Twitch-Streamer Atrioc aus Versehen einen offenen Tab bei Google Chrome. Dieser zeigte KI-generierte Deepfake-Bilder von großen Streamer*innen wie Pokimane oder Maya Higa in explizitem Kontext.
Was ist ein Deepfake?
Plump gesagt ist ein Deepfake ein gefälschtes Bild oder Video, das von einer KI generiert wurde. Für die Fälschung analysiert die KI tausende Bilder eines Gesichts und setzt es dann auf einen anderen Körper. Ein berühmtes Beispiel ist der Fall, in dem russische Komiker sich im Telefonat mit Franziska Giffey als Vitali Klitschko ausgaben. Eine abgeschwächte Form dieser Technologie sind einige Filter auf Social-Media-Plattformen, die euer Gesicht auf das von Indiana Jones setzen.
So reagiert der Streamer: Nach dem Vorfall entschuldigte sich Atrioc im Stream unter Tränen, zusammen mit seiner Freundin. „Das ist so peinlich“, sagte er und erklärte, dass er aus Interesse viel über künstliche Intelligenzen und KI-generierte Dinge gelesen hatte. Dazu zählen beispielsweise Tools wie Dall-E oder Chat GPT.
Auf einer Seite für Erwachsenen-Content habe er eine Werbung zu den Deepfakes von Pokimane und Maya Higa gefunden. „Ich war auf einer normalen Website und da war eine Werbung auf jedem Video. Und dann hab ich es angeklickt und war in diesem Rabbithole.“
Weiter entschuldigte er: „Ich wurde krankhaft neugierig und habe etwas angeklickt. Es ist ekelhaft und es tut mir leid. Es ist peinlich“. Er meinte außerdem, dass es sich „nicht um ein Verhaltensmuster handelt“. Er könne Rechnungen vorlegen, die beweisen, dass er die Deepfakes an dem Tag bezahlt hat, an dem der Clip entstand. „Es gibt keine Entschuldigung dafür. Ich versuche nicht, es irgendwie zu verteidigen. Ich glaube, dieser ganze Kram ist falsch“ beteuerte er.
KI-generierte Deepfakes belasten Pokimane und andere Streamerinnen
Das sagen die Opfer dazu: Der Clip machte sehr schnell die Runde, weswegen es nicht lange dauerte, bis auch die Opfer der Deepfakes davon Wind bekamen. Sweet Anita, die ebenfalls für Deepfakes missbraucht wurde, schrieb dazu auf Twitter „Ich habe wirklich Millionen für das Arbeiten [in dieser Branche, Anm. d. Red.] abgelehnt, nur damit ein chipsverschmierter P*-Süchtiger meinen Körper stattdessen ohne meine Einwilligung für sowas missbraucht.“
Ich weiß nicht ob ich weinen, etwas kaputt machen oder einfach nur lachen soll.
Auch Pokimane äußerte sich inzwischen auf Twitter zur Situation. Sie schrieb schlicht und ergreifend: „Hört auf Leute gegen ihren Willen zu sexualisieren. Das war‘s, das war der Tweet“. Maya Higa veröffentlichte ein umfassenderes Statement.
In ihrem Statement heißt es unter anderem: „Ich habe mit 22 ein non-profit Tierheim gegründet. Mit 24 habe ich eine Million US-Dollar Spenden für Erhaltungsarbeit gesammelt. Ich habe null sexuellen Content in meinen drei Jahren als Creatorin auf Twitch produziert. Und trotzdem wurde mein Gesicht von Männern gestohlen, um mich zu einem Sexobjekt zu machen, das sie benutzen können“.
KI-generierte Deepfakes von Streamerinnen werden verkauft – so kann man sich in Deutschland dagegen wehren
Wie ist die Lage nach deutschem Recht zu bewerten? Ob und wie die Streamerinnen gerichtlich gegen die Deepfakes vorgehen, ist noch nicht bekannt. Fest steht nur, dass es sich nicht um Einzelfälle handelt. Auch die deutsche Streamerin Fibi „xFibii“ Pfeifer hat mit Deepfakes zu kämpfen und steht deshalb bereits in Kontakt mit der Polizei.
Wir haben bei einem Fachanwalt für Urheber- und Medienrecht um eine Einschätzung gebeten, wie die Lage nach deutschem Recht zu beurteilen wäre und werden den Artikel erweitern, sobald uns diese vorliegt.
Das kann KI, wenn sie zum Missbrauch von Frauen verwendet wird
Chat GPT für Bilder: Alternative KI erstellt Kunst – so funktioniert sie
ChatGPT: Hausarbeiten mit der KI schreiben – Darum ist das eine schlechte Idee
Ihr seid selbst Opfer? Hier gibt es Hilfe: Wenn ihr oder jemand in eurem Umfeld Opfer von sexueller Gewalt ist, gibt es einige Hilfsstellen, an die ihr euch wenden könnt. Beim Weißen Ring bekommen Opfer von Kriminalität jeder Art Hilfe. Alternativ ist die Nummer gegen Kummer eine gute Anlaufstelle. Frauen und Mädchen können sich bei Ophelia melden.
