Musks Grok schränkt Bild-KI ein: Deepfake-Skandal und 20 Mrd. $ Finanzierung

Elon Musks KI-Chatbot Grok hat die Generierung und Bearbeitung von Bildern für die meisten Nutzer eingeschränkt. Diese Maßnahme folgt einem weltweiten Aufschrei wegen der Erstellung sexualisierter Deepfakes, die Regierungen und Regulierungsbehörden auf den Plan riefen. Zukünftig sind diese Funktionen nur noch zahlenden Abonnenten vorbehalten.

Grok schränkt Bildgenerierung ein

Der KI-Chatbot Grok, zugänglich über Elon Musks Social-Media-Plattform X, hat die Möglichkeit zur Bildgenerierung und -bearbeitung für die Mehrheit seiner Nutzer eingestellt. Anfragen zur Bildbearbeitung werden nun mit der Meldung beantwortet: „Die Bildgenerierung und -bearbeitung ist derzeit auf zahlende Abonnenten beschränkt. Sie können ein Abonnement abschließen, um diese Funktionen freizuschalten.“ Diese Einschränkung führte zu einem spürbaren Rückgang der expliziten Deepfakes, die Grok generiert.

Hintergrund der Kontroverse um Deepfakes

In den letzten Wochen hatte Grok eine Welle von Anfragen von Nutzern zugelassen, die Bilder manipulierten, darunter die Darstellung von Frauen in Bikinis oder in sexuell expliziten Posen. Forscher warnten, dass in einigen Fällen Bilder erschienen, die Kinder darzustellen schienen. Grok wurde 2023 eingeführt und erhielt im letzten Sommer die Bildgeneratorfunktion „Grok Imagine“, die einen sogenannten „Spicy Mode“ umfasste, der Inhalte für Erwachsene generieren konnte. Das Problem wurde dadurch verstärkt, dass Musk seinen Chatbot als „kantigere“ Alternative zu Konkurrenten mit mehr Schutzmaßnahmen positioniert und Groks Bilder öffentlich sichtbar und leicht verbreitbar sind. Es ist nicht das erste Mal, dass Grok in die Kritik gerät; im vergangenen Jahr entfernte xAI eine Reihe beleidigender Beiträge des Tools, die Adolf Hitler lobten und antisemitische Bemerkungen enthielten.

Internationale Reaktionen und Regulierungsdruck

Die weltweite Empörung führte zu Verurteilungen und Ermittlungen durch Regierungen. Die Europäische Union bezeichnete Groks Verhalten als „illegal“ und „entsetzlich“. Die Europäische Kommission erklärte die expliziten Bilder für rechtswidrig und wies X an, alle internen Dokumente und Daten zu Grok bis Ende 2026 aufzubewahren. Auch Beamte in Frankreich, Indien, Malaysia und ein brasilianischer Gesetzgeber forderten Untersuchungen.

Der britische Premierminister Keir Starmer drohte mit unbestimmten Maßnahmen gegen X und bezeichnete das Verhalten als „schändlich“ und „ekelhaft“. Er betonte, dass X „die Sache in den Griff bekommen muss“ und dass der Medienregulierer Ofcom „unsere volle Unterstützung hat, Maßnahmen zu ergreifen“. Ofcom und die britische Datenschutzbehörde haben X und Musks KI-Unternehmen xAI kontaktiert, um Informationen über die Einhaltung britischer Vorschriften zu erhalten. Elon Musk selbst schrieb auf X: „Jeder, der Grok benutzt, um illegale Inhalte zu erstellen, wird die gleichen Konsequenzen erleiden, als ob er illegale Inhalte hochladen würde.“ Das offizielle „Safety“-Konto von X erklärte, dass illegale Inhalte durch Entfernung, dauerhafte Sperrung von Konten und Zusammenarbeit mit Behörden bekämpft werden.

Finanzielle Aspekte und Zukunftsaussichten

Die genauen Abonnentenzahlen für Grok sind nicht öffentlich verfügbar. Es bleibt unklar, ob zahlende Abonnenten weiterhin sexualisierte und nicht-einvernehmliche Bilder von Frauen erstellen können. Für den Zugang zu diesen Funktionen müssen zahlende Kunden Kreditkarteninformationen und persönliche Daten angeben. Trotz der Kontroverse um Grok gab xAI, die Muttergesellschaft von X und Entwickler von Grok, diese Woche eine Finanzierungsrunde in Höhe von 20 Milliarden US-Dollar bekannt. Zu den teilnehmenden Investoren gehören Valor Equity Partners, Stepstone Group, Fidelity Management & Research Company, Qatar Investment Authority, MGX, Baron Capital Group, Nvidia und Cisco Investments.