Indonesien blockiert Grok AI: Globale Regulierung von Deepfakes verschärft sich

Indonesien hat als erstes Land den Zugang zu Elon Musks KI-Chatbot Grok vorübergehend gesperrt. Die Entscheidung des Kommunikationsministeriums folgt auf weitreichende Bedenken hinsichtlich der Fähigkeit der KI, nicht-einvernehmliche sexuelle Deepfakes zu generieren, insbesondere von Frauen und Kindern. Dieser Schritt verdeutlicht den wachsenden globalen regulatorischen Druck auf KI-Plattformen bezüglich Inhaltsmoderation und digitaler Sicherheit.

Indonesien blockiert Grok AI

Indonesien, mit der viertgrößten Bevölkerung der Welt und dem drittgrößten Nutzerkreis von X, hat den Zugang zu Elon Musks KI-Chatbot Grok am 10. Januar vorübergehend gesperrt. Die Maßnahme wurde vom Ministerium für Kommunikation und digitale Angelegenheiten bekannt gegeben. Kommunikationsministerin Meutya Hafid erklärte, die Sperrung diene dem Schutz von Frauen, Kindern und der gesamten Gemeinschaft vor dem Risiko gefälschter pornografischer Inhalte, die mittels künstlicher Intelligenz erzeugt werden.

Die Regierung betrachte die Praxis nicht-einvernehmlicher sexueller Deepfakes als eine schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum. Ministerin Hafid bezeichnete den Missbrauch von KI zur Erstellung gefälschter Pornografie als eine Form von "digitaler Gewalt". Frühere Untersuchungen des Ministeriums, geleitet von Alexander Sabar, Generaldirektor für digitale Raumüberwachung, zeigten, dass Grok AI derzeit keine klaren Schutzmaßnahmen gegen die Erstellung und Verbreitung pornografischen Materials mit realen Fotos indonesischer Bürger besitzt. Dies berge ernsthafte Risiken für die Privatsphäre und die Bildrechte der Bürger.

Globale Besorgnis über Deepfakes

Die Entscheidung Indonesiens ist Teil einer globalen Reaktion auf Grok, nachdem bekannt wurde, dass die Bildgenerierungsfunktion des Chatbots es Nutzern ermöglichte, Bilder von echten Frauen und Kindern digital zu entkleiden und zu sexualisieren. Diese Inhalte wurden anschließend auf X veröffentlicht. Ein Bericht der europäischen Non-Profit-Organisation AI Forensics zeigte, dass von 20.000 zwischen dem 25. Dezember und dem 1. Januar generierten Bildern 53 % Personen in minimaler Kleidung darstellten, von denen 81 % Frauen waren und 2 % unter 18 Jahren zu sein schienen.

Weltweit haben Regierungen und Aufsichtsbehörden auf Grok reagiert. Französische Behörden haben eine Untersuchung von Grok-generierten sexuell expliziten Deepfakes angekündigt. Die indische Regierung forderte X auf, eine "umfassende technische, prozedurale und Governance-Level-Überprüfung" durchzuführen, da Grok von Nutzern missbraucht werde, um "Bilder oder Videos von Frauen in abfälliger oder vulgärer Weise zu erzeugen".

Auch Ofcom, die britische Kommunikationsregulierungsbehörde, hat "dringenden Kontakt mit X und xAI aufgenommen", um die Einhaltung ihrer gesetzlichen Pflichten zum Schutz der Nutzer im Vereinigten Königreich zu klären. Mehrere US-Senatoren forderten Apple und Google auf, X und Grok aus ihren App-Stores zu entfernen, da sie ein "eklatantes Verhalten" von X beklagten. Indonesien reiht sich damit in eine Liste von Ländern wie Malaysia, Indien und Frankreich ein, die Untersuchungen zum Missbrauch von KI-Technologien wie Grok fordern.

Reaktionen von xAI und Elon Musk

Nach der globalen Kritik wurde die Bildgenerierungsfunktion von Grok auf zahlende Abonnenten beschränkt. xAI, das Startup von Elon Musk, das Grok entwickelt hat, erklärte am Donnerstag, dass es die Bildgenerierung und -bearbeitung auf zahlende Abonnenten beschränke, um Schutzlücken zu beheben, die sexualisierte Ausgaben, einschließlich Darstellungen leicht bekleideter Kinder, ermöglicht hatten.

Elon Musk reagierte auf die Kritik auf X und erklärte, dass "jeder, der Grok benutzt, um illegale Inhalte zu erstellen, die gleichen Konsequenzen erleiden wird, als ob er illegale Inhalte hochladen würde." Der Sicherheitsaccount von X schrieb, das Unternehmen ergreife Maßnahmen "gegen illegale Inhalte auf X, einschließlich Material zum sexuellen Missbrauch von Kindern (CSAM), indem es diese entfernt, Konten dauerhaft sperrt und bei Bedarf mit lokalen Regierungen und Strafverfolgungsbehörden zusammenarbeitet."

Europäische Beamte und Technologie-Aktivisten kritisierten die Beschränkung der Grok-Funktionen auf zahlende Abonnenten. Sie äußerten die Meinung, dass dies die Bedenken hinsichtlich sexuell expliziter Deepfake-Inhalte nicht ausreichend adressiere.

Rechtliche Rahmenbedingungen und zukünftige Schritte in Indonesien

Die indonesische Regierung stützt die Sperrung auf die Ministerialverordnung Nr. 5/2020, die privaten elektronischen Systembetreibern weitreichende Befugnisse zur Einschränkung des Zugangs zu Plattformen einräumt, die "verbotene Inhalte" nicht moderieren oder nicht mit staatlichen Sicherheitsanforderungen kooperieren. Das Ministerium hat Vertreter der Social-Media-Plattform X vorgeladen, um eine Klärung der Angelegenheit zu suchen.

Es fordert von digitalen Plattformen, die im Land tätig sind, den Nachweis adäquater Schutzmaßnahmen zur Verhinderung der Produktion oder Verbreitung verbotener Inhalte. Das Unternehmen muss eine Klärung der negativen Auswirkungen der aktuellen Grok-Konfiguration liefern und konkrete technische Maßnahmen zur Verhinderung zukünftigen Missbrauchs darlegen.

Gemäß dem aktualisierten indonesischen Strafgesetzbuch (Gesetz Nr. 1 von 2023) können pornografische Inhalte und die Manipulation persönlicher Bilder zu straf- und verwaltungsrechtlichen Sanktionen führen. Artikel 172 und 407 sehen Strafen von sechs Monaten bis zu zehn Jahren Gefängnis sowie Geldstrafen vor. Ministerin Hafid betonte, dass die Sperrung zwar vorübergehend sei, die Zukunft von Grok in Indonesien jedoch vollständig von der Bereitschaft der Plattform abhänge, strenge Inhaltsfilter und ethische KI-Standards zu implementieren. Eine Nichteinhaltung könnte zum vollständigen Verbot von Grok AI und der X-Plattform in Indonesien führen.