Grok Deepfake-Skandal: Kalifornien ermittelt gegen xAI von Elon Musk
ℹKeine Anlageberatung • Nur zu Informationszwecken
Der Generalstaatsanwalt von Kalifornien, Rob Bonta, hat eine Untersuchung gegen xAI, das KI-Unternehmen von Elon Musk, eingeleitet. Anlass sind zahlreiche Berichte über die Erstellung nicht-einvernehmlicher, sexualisierter Deepfakes durch den KI-Chatbot Grok. Diese Maßnahme reiht sich ein in eine Welle internationaler Reaktionen und legislativer Bemühungen, den Missbrauch von KI-generierten Inhalten zu bekämpfen.
Kalifornien leitet Untersuchung gegen Grok ein
Generalstaatsanwalt Rob Bonta gab am Mittwoch bekannt, dass sein Büro eine Untersuchung wegen der Verbreitung nicht-einvernehmlicher, sexuell expliziter Inhalte durch xAIs KI-Tool Grok eingeleitet hat. Bonta sprach von einer "Lawine von Berichten, die das nicht-einvernehmliche, sexuell explizite Material detailliert beschreiben, das xAI produziert hat." Dieses Material zeige Frauen und Kinder in nackten und sexuell expliziten Situationen und sei zur Belästigung von Personen im Internet verwendet worden. Er forderte xAI auf, "sofortige Maßnahmen zu ergreifen, um sicherzustellen, dass dies nicht weitergeht." In einer Pressemitteilung wurde auch Groks "spicy mode" sowie die angebliche Produktion "fotorealistischer Bilder von Kindern, die sexuelle Handlungen ausführen," erwähnt.
Internationale Reaktionen und Regulierungsdruck
Der Druck auf xAI beschränkt sich nicht auf die Vereinigten Staaten. Bereits zuvor hatten Behörden in Indien, Großbritannien, Indonesien und Malaysia Maßnahmen gegen Grok ergriffen. Indonesien und Malaysia haben den Zugang zu Grok sogar blockiert. Die britische Kommunikationsaufsichtsbehörde Ofcom kündigte Anfang der Woche eine eigene Untersuchung an. Der britische Premierminister Keir Starmer hatte zuvor angedeutet, dass X "das Recht auf Selbstregulierung verlieren könnte." Auch die Pariser Staatsanwaltschaft leitete am 2. Januar eine Untersuchung wegen der "Verbreitung sexuell expliziter 'Deepfakes', insbesondere von Minderjährigen, die von Grok, der Künstlichen Intelligenz von X, generiert wurden," ein.
Elon Musks Stellungnahme und xAIs Maßnahmen
Als Reaktion auf die Anfrage von Business Insider zu Bontas Untersuchung antwortete xAI mit "Legacy Media Lies" – eine Standardantwort des Unternehmens auf Medienanfragen. Elon Musk selbst äußerte sich am Mittwoch auf X und erklärte, er sei "nicht bewusst, dass Grok nackte Bilder von Minderjährigen generiert hat. Buchstäblich null." Er betonte, Grok generiere Bilder nicht spontan, sondern nur auf Benutzeranfrage und weigere sich, illegale Inhalte zu produzieren, da das Funktionsprinzip von Grok sei, "die Gesetze jedes Landes oder Staates zu befolgen." Diese Aussage steht im Widerspruch zu vielen der von den Regulierungsbehörden untersuchten Fälle, bei denen es um die Sexualisierung von Bildern auf Nutzeranfrage ging, etwa die Darstellung einer Person im Bikini, obwohl das Originalfoto dies nicht zeigte. Angesichts der Kritik hat xAI den Zugang zur Bildgenerierung von Grok auf zahlende Abonnenten beschränkt.
Gesetzgeber reagieren auf Deepfake-Problematik
Die US-Gesetzgebung reagiert ebenfalls auf die zunehmende Problematik. Der US-Senat verabschiedete am Dienstag einstimmig einen Gesetzentwurf, der Opfern ein bundesweites Zivilrecht einräumen würde, Nutzer zu verklagen, die KI zur Erstellung solcher Bilder auffordern. Der Gesetzentwurf mit dem Namen "The Defiance Act" erwähnt die digitale Manipulation eines Fotos, um "die Kleidung der Person zu entfernen, sodass die Person nackt erscheint." Senator Richard Durbin, ein Demokrat aus Illinois und Autor des Gesetzes, erklärte, es ziele darauf ab, Fälle wie die Grok-Bilder zu stoppen. Er wies darauf hin, dass Grok "Frauen und minderjährige Mädchen auf Fotos entkleiden" könne. Bereits im vergangenen Jahr unterzeichnete der damalige Präsident Donald Trump ein überparteiliches Gesetz, das soziale Medienplattformen verpflichtet, nicht-einvernehmliche Fotos sowie KI-Deepfakes innerhalb von 48 Stunden nach Erhalt einer Aufforderung zu entfernen.
Persönliche Betroffenheit verstärkt die Debatte
Die Kontroverse wird durch persönliche Geschichten verstärkt. Ashley St. Clair, eine ehemalige Partnerin von Elon Musk, wurde zu einer prominenten Kritikerin, nachdem sie erfahren hatte, dass Grok explizite Bilder von ihr generiert hatte, einige davon aus ihrer Minderjährigkeit. Ihre Erfahrungen haben die Debatte über den emotionalen Schaden, der durch solche Technologien verursacht wird, weiter angeheizt.