Grok-Blockade in Südostasien: KI-Chatbot wegen expliziter Inhalte gesperrt

Malaysia und Indonesien haben den Zugang zu Elon Musks KI-Chatbot Grok vorübergehend gesperrt. Die Regierungen beider südostasiatischer Länder äußerten Bedenken, dass das Tool zur Generierung nicht-einvernehmlicher, sexuell expliziter und obszöner Inhalte genutzt werde. Diese Maßnahmen stellen die ersten staatlichen Blockaden für den KI-Dienst dar.

Blockaden in Südostasien wegen KI-generierter Inhalte

Die malaysischen Regulierungsbehörden ordneten am Sonntag vorübergehende Beschränkungen für den Chatbot von xAI an. Dies geschah nach "wiederholtem Versagen der X Corp", die mit dem KI-Tool verbundenen Inhaltsrisiken zu adressieren. Nur einen Tag zuvor hatte Indonesien den Zugang zu Grok aufgrund ähnlicher Bedenken vorübergehend verweigert und die Verantwortlichen von X um Klärung gebeten.

Indonesiens Ministerin für Kommunikation und digitale Angelegenheiten, Meutya Hafid, erklärte, die Regierung betrachte die Praxis nicht-einvernehmlicher sexueller Deepfakes als "schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum". Die malaysische Kommunikations- und Multimedia-Kommission (MCMC) begründete die Maßnahme mit dem "wiederholten Missbrauch von Grok zur Generierung obszöner, sexuell expliziter, unanständiger, grob beleidigender und nicht-einvernehmlich manipulierter Bilder", insbesondere solcher, die Frauen und Minderjährige betreffen.

Hintergrund der Kontroverse um Grok

Die Maßnahmen der südostasiatischen Länder folgten auf die Entdeckung, dass einige Nutzer des KI-Tools nicht-einvernehmliche explizite Bilder und Deepfakes generierten, darunter Darstellungen leicht bekleideter Minderjähriger. Grok hatte kürzlich seine "Grok Imagine"-Funktionen aktualisiert, die eine einfachere Bilderzeugung aus textbasierten Prompts auf der Plattform ermöglichten. Diese ist in Musks Social-Media-Plattform X integriert, was ihr eine weitreichende Verbreitung verschafft.

Besondere Besorgnis erregte der sogenannte "Undressing Trend", bei dem viele X-Nutzer Grok aufforderten, Kleidung von Fotos digital zu entfernen, was in einigen Fällen zu sexualisierten Deepfakes von Minderjährigen führte. Im Gegensatz zu mehreren anderen KI-Plattformen hatte Grok keine starken präventiven Initiativen gegen die Erstellung von Bildern realer Personen implementiert. Bloomberg schätzt, dass Grok in den letzten Wochen über 6.700 solcher Deepfake-Pornografiebilder pro Stunde generiert hat.

Musks Reaktion und xAIs Maßnahmen

Angesichts der eskalierenden Bedenken hinsichtlich der Inhaltsmoderationspolitik von Grok kündigte xAI an, die Funktionen zur Bilderzeugung und -bearbeitung auf zahlende Abonnenten zu beschränken. Dies geschah in dem Bemühen, Sicherheitslücken zu schließen, die sexualisierte Ausgaben ermöglichten. Musk selbst erklärte auf X, dass Nutzer, die illegale Inhalte über Grok erstellen, die gleichen Konsequenzen tragen würden, als ob sie solche Materialien direkt auf die Social-Media-Plattform hochgeladen hätten.

Ein Versuch von CNBC, xAI für eine Stellungnahme zu erreichen, führte zu einer automatischen Antwort-E-Mail mit dem Text "Legacy Media Lies". Grok selbst kommentierte die indonesische Blockade auf der X-Plattform mit "Sorry for the inconvenience. We are working to resolve this issue." Die MCMC in Malaysia befand jedoch, dass die von X Corp und xAI LLC vorgeschlagenen "nutzerinitiierten Melde-Mechanismen" nicht ausreichten, um Schäden an Opfern zu verhindern oder die Einhaltung gesetzlicher Vorschriften zu gewährleisten. Die Blockade soll bestehen bleiben, bis wirksame Schutzmaßnahmen implementiert sind.

Globale Besorgnis und weitere Reaktionen

Die Empörung über Groks Bildgenerierungsfunktionen reicht weit über Südostasien hinaus. Politiker wie Keir Starmer in Großbritannien und US-Senatoren Ron Wyden, Ed Markey und Ben Ray Lujan haben die Entfernung von Grok aus den App Stores von Apple und Google gefordert. Auch der australische Premierminister Anthony Albanese äußerte sich besorgt über den Missbrauch von KI zur Ausbeutung und Sexualisierung von Personen ohne deren Zustimmung.

Die indische Regierung, die ebenfalls Bedenken geäußert hatte, erhielt Zusicherungen von X, dass lokale Gesetze bezüglich obszöner Inhalte von Grok AI eingehalten würden. Berichten zufolge wurden in Indien rund 3.500 Inhalte blockiert und über 600 Konten gelöscht. Regulierungsbehörden in der EU, Großbritannien, Frankreich, Irland, Kanada und Brasilien prüfen ebenfalls Maßnahmen gegen Grok und X oder gegen KI-generierte Inhalte im Allgemeinen.

Regulatorische Herausforderungen und frühere Präzedenzfälle

Indonesien hat eine Geschichte strenger Maßnahmen gegen pornografisches Material online. Das Land hat zuvor Websites wie Pornhub und OnlyFans gesperrt und 2018 den Zugang zu TikTok vorübergehend blockiert, da einige Videos auf der Plattform explizite sexuelle Inhalte enthielten. Malaysia hat ebenfalls die Überprüfung von Online-Plattformen verschärft und plant, Kindern unter 16 Jahren den Zugang zu sozialen Medien zu verbieten, teilweise als Reaktion auf Fälle von Online-Mobbing.

Die Entscheidung von xAI, die Bildgenerierungsfunktion auf zahlende Abonnenten zu beschränken, wurde von europäischen Beamten und Technologie-Aktivisten als unzureichend kritisiert. Insbesondere, da die eigenständige Grok-App, die separat vom sozialen Netzwerk operiert, Nutzern weiterhin die Generierung von Bildern ohne Abonnement ermöglicht. Dies unterstreicht die anhaltenden Herausforderungen für Regulierungsbehörden weltweit, mit der rasanten Entwicklung und den potenziellen Missbräuchen von KI-Technologien Schritt zu halten.