EU leitet Untersuchung gegen Elon Musks X wegen Grok-KI und illegaler Inhalte ein
ℹKeine Anlageberatung • Nur zu Informationszwecken
Die Europäische Kommission hat am Montag, den 26. Januar 2026, eine Untersuchung gegen Elon Musks Plattform X eingeleitet. Im Fokus steht die Verbreitung sexuell expliziten Materials durch den KI-Chatbot Grok. Die Untersuchung erfolgt im Rahmen des umfassenden Digital Services Act (DSA) der Europäischen Union.
EU-Untersuchung gegen X und Grok
Die neue Untersuchung soll bewerten, ob X die Risiken, die mit dem Einsatz von Groks Funktionalitäten in der EU verbunden sind, ordnungsgemäß bewertet und gemindert hat. Dies umfasst Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte in der EU, wie manipulierte sexuell explizite Bilder, einschließlich Material, das Kindesmissbrauch darstellen könnte. Die Kommission erklärte, dass sich diese Risiken "materialisiert zu haben scheinen und Bürger in der EU ernsthaftem Schaden aussetzen".
Die Digital Services Act (DSA) als Grundlage
Der Digital Services Act (DSA) ist eine zentrale EU-Verordnung, die Online-Plattformen, deren Inhalte und das Verhalten gegenüber Verbrauchern reguliert. Er gibt der Regulierungsbehörde die Möglichkeit, hohe Bußgelder gegen Technologieunternehmen zu verhängen, die bis zu sechs Prozent des weltweiten Jahresumsatzes betragen können. Plattformen sind verpflichtet, den Zugang zu rechtswidrigem digitalen Material zu verhindern, zu entfernen oder zu mindern.
Vorwürfe und Risiken
Grok geriet in diesem Jahr in die Kritik, nachdem Nutzer das System dazu anleiten konnten, sexualisierte Bilder von Kindern und anderen Personen zu generieren. Bereits am 5. Januar 2026 betonte Kommissionssprecher Thomas Régnier in einem Briefing in Brüssel, dass die Angelegenheit kein geringfügiges Moderationsproblem, sondern ein potenzieller Verstoß gegen die europäischen Regeln zur digitalen Sicherheit sei. Er erklärte: "Das ist nicht 'spicy'. Das ist illegal. Das ist entsetzlich. Das ist ekelhaft. Das hat in Europa keinen Platz."
Die EU-Technologie-Souveränitätskommissarin Henna Virkkunen äußerte am 21. Januar 2026 gegenüber Mitgliedern des Europäischen Parlaments, dass bestehende digitale Regeln es den Regulierungsbehörden erlauben, auf Risiken im Zusammenhang mit KI-gesteuerten "Nudification"-Tools zu reagieren. Grok wurde mit der Verbreitung digital veränderter Bilder in Verbindung gebracht, die reale Personen, darunter Frauen und Kinder, ohne deren Zustimmung darstellen. Virkkunen beschrieb solche Praktiken als inakzeptabel und betonte, dass der Schutz von Minderjährigen online eine zentrale Priorität für die EU-Durchsetzung unter dem DSA bleibe.
Internationale Reaktionen und frühere Vorfälle
Die Europäische Kommission ist nicht die einzige Behörde, die Grok untersucht. Auch das Vereinigte Königreich, Indien und Malaysia gehören zu den Ländern, die die von Grok generierten sexualisierten Bilder prüfen. Bereits im November 2025 führten Holocaust-Leugnungsvorwürfe zu einer Untersuchung durch französische Behörden.
X hat bereits auf die Kritik reagiert: Anfang Januar 2026 stoppte xAI, der Betreiber von Grok, die Möglichkeit des Chatbots, sexualisierte Bilder von realen Personen zu erstellen. Zudem beschränkte X kürzlich die Bildbearbeitungsfunktionen von Grok auf zahlende Nutzer. Im Dezember 2023 wurde X von der Kommission bereits mit einem Bußgeld von 120 Millionen Euro belegt, weil es seine Transparenzpflichten gemäß dem DSA verletzt hatte. Die Kommission hat X zudem angewiesen, interne Informationen im Zusammenhang mit Grok bis Ende 2026 aufzubewahren.
Forderungen nach strengerer Regulierung
Die Kontroverse hat die Forderungen von EU-Gesetzgebern nach einer Stärkung der Regulierung intensiviert, wobei einige ein explizites Verbot von KI-gestützter "Nudification" im Rahmen des bevorstehenden AI Act fordern. Kommissionspräsidentin Ursula von der Leyen hat die Erstellung sexualisierter KI-Bilder ohne Zustimmung öffentlich verurteilt. Rani Govender, Policy Manager für Kindersicherheit online bei der The National Society for the Prevention of Cruelty to Children (NSPCC), betonte, dass KI-Apps wie Grok "alarmierend einfach auszunutzen" seien und Kinder dem Risiko aussetzen, dass illegales Material von ihnen generiert wird.