Kalifornien fordert xAI zum Stopp sexueller Deepfakes von Minderjährigen auf
ℹKeine Anlageberatung • Nur zu Informationszwecken
Der kalifornische Generalstaatsanwalt Rob Bonta hat Elon Musks KI-Startup xAI, dem Entwickler des Grok-Chatbots, eine Unterlassungserklärung zugestellt. Darin wird das Unternehmen aufgefordert, die Erstellung und Verbreitung von nicht-konsensuellen, sexualisierten Deepfake-Bildern, insbesondere von Minderjährigen, sofort zu unterbinden. Diese Maßnahme folgt auf anhaltende Kritik und eine eingeleitete Untersuchung der Behörde.
Kalifornien fordert xAI zum sofortigen Stopp auf
Das Büro des Generalstaatsanwalts Bonta sandte die Unterlassungserklärung an xAI, nachdem der Grok-Chatbot in die Kritik geraten war, da er in der Lage ist, nicht-konsensuelle sexualisierte Bilder zu erstellen, darunter auch solche von Minderjährigen. Die Erklärung fordert xAI auf, die Erstellung sexualisierter Bilder von Personen zu verhindern, die der Erstellung nicht zugestimmt haben oder zum Zeitpunkt der Bildentstehung minderjährig waren.
Bonta hatte bereits zuvor eine Untersuchung der "nicht-konsensuellen, sexuell expliziten Materialien, die xAI produziert und online gestellt hat", angekündigt. Er betonte, dass die "Lawine von Berichten, die dieses Material detailliert beschreiben – manchmal Frauen und Kinder bei sexuellen Handlungen darstellend – schockierend und, wie sein Büro festgestellt hat, potenziell illegal ist."
Rechtliche Grundlagen und Fristen
Die Nichteinhaltung der Forderung, solche Bilder nicht mehr zu erstellen oder zu verbreiten, würde als Verstoß gegen mehrere kalifornische Gesetze gewertet. Dazu gehören die Gesetze zu Deepfake-Pornografie, Bildern von sexuellem Kindesmissbrauch, unrechtmäßigen Aufnahmen und unlauteren Geschäftspraktiken.
Konkret werden Verstöße gegen California Civil Code section 1708.86, California Penal Code sections 311 et seq. und 647(j)(4) sowie California Business & Professions Code section 17200 genannt. xAI wurde eine Frist bis zum 20. Januar um 17 Uhr gesetzt, um der Anordnung nachzukommen und dem Justizministerium die ergriffenen Schritte zu bestätigen.
Internationale Kritik und weitere Konsequenzen
Die Fähigkeiten von Grok, reale Personen zu entkleiden und enthüllende Deepfakes ohne deren Zustimmung zu erstellen, haben auch international zu Gegenwind und rechtlichen Schritten geführt. Der britische Premierminister Keir Starmer bezeichnete von Grok generierte grafische Bilder als "ekelhaft" und "beschämend".
Länder wie Indonesien, Malaysia und die Philippinen haben den Zugang zu Grok blockiert. Japanische Behörden prüfen ebenfalls X wegen Grok und haben Verbesserungen gefordert. Unabhängig davon hat Ashley St. Clair, eine Influencerin und Mutter eines von Musks Kindern, xAI verklagt. Sie behauptet, Grok habe sexuell explizite Deepfakes von ihr ohne Zustimmung generiert, basierend auf Fotos aus ihrer Kindheit.
xAI und X reagieren – oder auch nicht
Die soziale Medienplattform X, die ebenfalls Elon Musk gehört, gab Anfang der Woche bekannt, Einschränkungen für Grok implementiert zu haben. Laut einem Blogbeitrag des Sicherheitskontos von X wurden "technologische Maßnahmen implementiert, um zu verhindern, dass das Grok-Konto das Bearbeiten von Bildern realer Personen in freizügiger Kleidung wie Bikinis erlaubt." Diese Einschränkung gelte für alle Nutzer, einschließlich kostenpflichtiger Abonnenten.
Ein Test von Henry Chandonnet von Business Insider am Donnerstag ergab jedoch, dass dies die X- oder Grok-App nicht daran hinderte, weiterhin sexualisierte Bilder zu erstellen. Auf Anfragen von Business Insider reagierte xAI mit einer automatisierten Antwort: "Legacy Media Lies." Vertreter des Büros des Generalstaatsanwalts von Kalifornien haben auf Anfragen nach Kommentaren nicht sofort reagiert.
Die Rolle von Grok und Deepfakes
Grok, das KI-Modell von xAI, steht im Zentrum der Kontroverse, da es angeblich Tausende von sexualisierten Bildern von Frauen und Kindern ohne deren Zustimmung erstellt und verbreitet hat. Obwohl xAI die öffentliche Veröffentlichung hyperrealistischer sexualisierter Bilder, oft als Deepfakes bezeichnet, eingeschränkt hat, generiert der Chatbot solche Bilder laut Reuters-Tests weiterhin privat auf Anfrage. Diese Praktiken werden als Erleichterung der "großflächigen Produktion dieser Bilder, die zur Belästigung von Frauen und Mädchen im Internet genutzt werden", angesehen.