X und Grok unter EU-Druck: KI-Deepfakes lösen Datenschutz-Ermittlungen aus

Die irische Datenschutzkommission und die Europäische Kommission haben separate Untersuchungen gegen X (ehemals Twitter) und dessen KI-Chatbot Grok eingeleitet. Im Zentrum stehen Vorwürfe der Erstellung und Verbreitung nicht-einvernehmlicher, sexualisierter KI-Bilder, darunter auch Darstellungen von Minderjährigen, sowie die Einhaltung der EU-Datenschutz-Grundverordnung (DSGVO) und des Digital Services Act (DSA).

EU-Datenschutzbehörde leitet Untersuchung gegen X ein

Die irische Datenschutzkommission (DPC) hat eine Untersuchung gegen X, das soziale Netzwerk von Elon Musk, eröffnet. Die DPC gab am Dienstag bekannt, dass die Untersuchung im Zusammenhang mit der Erstellung und Veröffentlichung nicht-einvernehmlicher, sexualisierter Bilder von EU-Bürgern auf X mittels der generativen KI-Funktionen von Grok steht. Dies schließt auch Bilder von Kindern ein.

Die Kommission, die für die Durchsetzung der EU-Datenschutz-Grundverordnung (DSGVO) zuständig ist, informierte X am Montag über die Untersuchung. Eine Anfrage von Business Insider an X blieb unbeantwortet. Grok ist ein Chatbot, der von Musks Unternehmen xAI entwickelt wurde, welches mittlerweile eine Tochtergesellschaft seines Raumfahrtunternehmens SpaceX ist.

Europäische Kommission erweitert Grok-Prüfung

Parallel zur irischen DPC hat auch die Europäische Kommission eine formelle Untersuchung gegen X eingeleitet. Diese Prüfung konzentriert sich darauf, ob X seinen Verpflichtungen gemäß dem EU-Recht, insbesondere dem Digital Services Act (DSA), nachgekommen ist. Dazu gehört die Pflicht, „systemische Risiken sorgfältig zu bewerten und zu mindern“, wie die Kommission in einer Erklärung festhielt.

Henna Virkkunen, Vizepräsidentin der EU-Kommission für Tech-Souveränität, Sicherheit und Demokratie, betonte: „Nicht-einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung.“ Die Untersuchung soll klären, ob X seine gesetzlichen Pflichten erfüllt oder die Rechte europäischer Bürger als „Kollateralschaden“ seines Dienstes behandelt hat. Die Kommission hat X zudem angewiesen, alle internen Dokumente und Daten zu Grok bis Ende 2026 aufzubewahren.

Die Untersuchung erstreckt sich auch auf die Empfehlungssysteme von X, da das Unternehmen plant, Groks KI zur Kuratierung von Nutzerbeiträgen einzusetzen. Die Kommission äußerte Bedenken, dass die Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte, wie manipulierter sexuell expliziter Bilder und potenziellen Kindesmissbrauchsmaterials, bereits eingetreten sind und EU-Bürger ernsthaftem Schaden aussetzen.

Internationale Kritik und X's Reaktionen auf KI-Deepfakes

Die Plattform X geriet im Januar weltweit in die Kritik, nachdem Berichte über Grok-Nutzer auftauchten, die sexualisierte Bilder von realen Personen, einschließlich Minderjährigen, generierten. Länder wie Indonesien, Malaysia und die Philippinen setzten daraufhin den Zugang zu Grok vorübergehend aus. Auch die Europäische Kommission leitete eine Untersuchung ein, während Indiens Ministerium für Informationstechnologie seinen Widerstand in einem Schreiben an X's indischen Compliance Officer äußerte. Kaliforniens Generalstaatsanwalt Rob Bonta startete Anfang Januar ebenfalls eine Untersuchung zu Groks KI-Deepfakes.

Als Reaktion darauf machte X die KI-Bildgenerierungsfunktion von Grok zunächst zu einem Premium-Feature, das auf zahlende Abonnenten beschränkt war. Später wurde die Generierung sexualisierter Bilder gänzlich unterbunden. Ein Business Insider-Bericht zeigte jedoch, dass es weiterhin möglich war, solche Bilder in Groks Web- und Mobilanwendungen auszulösen.

Elon Musk kommentierte die Kontroverse am 3. Januar in einem X-Post: „Jeder, der Grok benutzt, um illegale Inhalte zu erstellen, wird die gleichen Konsequenzen tragen, als ob er illegale Inhalte hochladen würde.“ X erklärte in einer Stellungnahme, man sei „bestrebt, X zu einer sicheren Plattform für alle zu machen“ und habe „null Toleranz“ für sexuelle Ausbeutung von Kindern und nicht-einvernehmliche Nacktheit. Die Kommission zeigte sich jedoch von den bisherigen Maßnahmen nicht überzeugt.

Der Digital Services Act (DSA) im Fokus der Regulierungsbehörden

Die Untersuchung der Europäischen Kommission wird unter dem Digital Services Act (DSA) durchgeführt, einem relativ neuen Gesetz, das Internetnutzer vor einer Vielzahl von Schäden schützen soll und für große Online-Plattformen gilt. Der DSA verpflichtet Plattformen wie X, systemische Risiken, die von ihren Diensten ausgehen, zu bewerten und zu mindern.

Die Kommission hatte X bereits im Dezember eine Geldstrafe von 120 Millionen Euro wegen Verstößen gegen Transparenzpflichten im Rahmen des DSA auferlegt. Dies war die erste Strafe unter den neuen Regeln. Die aktuelle Untersuchung könnte dazu führen, dass X seine Praktiken ändern muss oder mit einer erheblichen weiteren Geldstrafe belegt wird. Belgiens Digitalisierungsministerin Vanessa Matz betonte: „Innovation kann keine Entschuldigung sein, die Regulierung aufzugeben.“