Globale Regulierung: Grok-KI wegen Deepfakes in der Kritik
ℹKeine Anlageberatung • Nur zu Informationszwecken
Der von Elon Musks Unternehmen xAI entwickelte KI-Chatbot Grok wurde in Malaysia und Indonesien blockiert. Diese Maßnahme ist eine Reaktion auf wachsende Bedenken internationaler Behörden, dass Grok zur Erstellung sexuell expliziter und nicht-einvernehmlicher Bilder missbraucht wird. Die Sperrungen unterstreichen die zunehmende weltweite Kontrolle generativer KI-Tools und die Sorge, dass bestehende Schutzmechanismen deren Missbrauch nicht verhindern können.
Globale Besorgnis um KI-Deepfakes führt zu ersten Sperrungen
Malaysia und Indonesien sind die ersten Länder, die den Zugang zu Grok, der über Musks Social-Media-Plattform X zugänglich ist, gesperrt haben. Die Regulierungsbehörden in den beiden südostasiatischen Staaten erklärten, dass die vorhandenen Kontrollen die Erstellung und Verbreitung gefälschter pornografischer Inhalte, insbesondere von Frauen und Minderjährigen, nicht verhinderten. Indonesien blockierte den Zugang zu Grok am Samstag, gefolgt von Malaysia am Sonntag.
Die indonesische Kommunikations- und Digitalministerin Meutya Hafid betonte in einer Erklärung: „Die Regierung betrachtet nicht-einvernehmliche sexuelle Deepfakes als eine schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum.“ Die malaysische Kommunikations- und Multimedia-Kommission stellte einen „wiederholten Missbrauch“ des Tools fest, um obszöne, sexuell explizite und nicht-einvernehmliche manipulierte Bilder zu generieren.
Mangelnde Schutzmechanismen im Fokus der Kritik
Erste Untersuchungen zeigten, dass Grok keine wirksamen Schutzmechanismen besitzt, um Nutzer daran zu hindern, pornografische Inhalte auf der Grundlage realer Fotos indonesischer Einwohner zu erstellen und zu verbreiten. Alexander Sabar, Generaldirektor für die Überwachung des digitalen Raums, erklärte, solche Praktiken riskierten die Verletzung von Privatsphäre und Bildrechten, wenn Fotos ohne Zustimmung manipuliert oder geteilt werden. Grok, das 2023 eingeführt wurde, erhielt im vergangenen Jahr die Bildgenerierungsfunktion „Grok Imagine“, die auch einen sogenannten „Spicy Mode“ für die Erstellung von Inhalten für Erwachsene umfasste.
Die Kontroverse verschärfte sich in den letzten Wochen durch einen „Entkleidungs-Trend“, bei dem Nutzer Fotos hochluden und den Chatbot aufforderten, Personen digital zu entkleiden. Dies führte in mehreren Fällen zu sexualisierten Deepfake-Bildern, die Minderjährige betrafen. Obwohl Grok letzte Woche die Bildgenerierung und -bearbeitung auf zahlende Nutzer beschränkte, um der globalen Kritik entgegenzuwirken, sehen Kritiker darin keine vollständige Lösung des Problems. Eine Anfrage der Associated Press an xAI ergab lediglich die automatisierte Antwort „Legacy Media Lies“.
Internationale Untersuchungen und mögliche Konsequenzen
Die Prüfung von Grok nimmt auch in der Europäischen Union, Indien, Frankreich und dem Vereinigten Königreich zu. Letzteres kündigte an, „Nudifizierungs-Apps“ unter Strafe zu stellen. Die britische Medienaufsichtsbehörde Ofcom leitete eine Untersuchung ein, ob Grok gegen Gesetze verstieß, indem es Nutzern ermöglichte, sexualisierte Bilder von Kindern zu teilen.
Die britische Technologieministerin Liz Kendall bezeichnete die KI-generierten Bilder als „Missbrauchswaffen“. Sie erklärte, die Labour-Regierung werde die Ursache des Problems angehen, indem sie es Unternehmen zur Straftat mache, Tools zur Erstellung nackter Bilder ohne Zustimmung bereitzustellen. Kendall warnte, X könnte eine Ofcom-Geldstrafe von bis zu 10 % seines weltweiten Umsatzes drohen, abhängig vom Untersuchungsergebnis, sowie eine mögliche gerichtliche Anordnung zur Sperrung des Zugangs zur Plattform. Auch in den USA forderten Senatoren Apple und Google auf, Grok aus ihren App Stores zu entfernen, und das National Center on Sexual Exploitation (NCOSE) rief das Justizministerium und die Federal Trade Commission zu Ermittlungen auf.
Elon Musks Reaktion auf die Vorwürfe
Elon Musk reagierte auf die Drohungen der britischen Regierung mit einer scharfen Kritik. Er bezeichnete die britische Regierung als „faschistisch“ und warf ihr vor, die Meinungsfreiheit unterdrücken zu wollen. In einem Post auf X schrieb Musk: „Sie wollen nur die freie Meinungsäußerung unterdrücken.“ Er hatte zuvor geäußert, Kritiker seiner Plattform suchten „jeden Vorwand für Zensur“.
Historischer Kontext und regionale Präzedenzfälle
Die Regulierungsbehörden in Malaysia und Indonesien betonten, dass die Sperrung eine „präventive und verhältnismäßige Maßnahme“ sei, solange rechtliche und regulatorische Prozesse liefen. Der Zugang werde blockiert bleiben, bis wirksame Schutzmechanismen implementiert sind. Beide Länder haben eine Geschichte strenger Online-Inhaltsregulierung; Indonesien hat bereits Plattformen wie Pornhub und OnlyFans gesperrt und 2018 TikTok wegen Bedenken hinsichtlich sexuell expliziten Materials für Kinder vorübergehend abgeschaltet.