xAI's Grok schränkt Bild-KI nach Deepfake-Skandal ein – Milliarden-Finanzierung gesichert

xAI, das KI-Unternehmen von Elon Musk, hat die Nutzung seines Grok AI-Bildgenerierungstools auf der Plattform X für die meisten Nutzer eingeschränkt. Diese Maßnahme folgt auf massive Kritik und regulatorischen Druck aufgrund der Erstellung nicht-konsensueller sexualisierter Deepfakes von realen Personen, darunter Minderjährigen. Trotz der Kontroversen konnte xAI kürzlich eine beeindruckende Finanzierungsrunde abschließen.

Grok schränkt Bildgenerierung ein

Grok hat die Bildgenerierung und -bearbeitung auf X auf zahlende Abonnenten beschränkt. Dies ist eine Reaktion auf den weit verbreiteten Protest gegen die Nutzung des Tools zur Erstellung nicht-konsensueller sexualisierter Bilder von realen Personen, einschließlich Minderjährigen. Die Einschränkung bedeutet, dass die Mehrheit der Nutzer auf X keine Bilder mehr mit Grok erstellen kann. Zahlende Abonnenten, die das Tool weiterhin nutzen, haben ihre Namen und Zahlungsinformationen hinterlegt. Es wird berichtet, dass Nutzer, die keine X-Abonnenten sind, Grok weiterhin zur Bildbearbeitung über die eigenständige App und Website nutzen können.

Internationale Kritik und regulatorischer Druck

Elon Musk und xAI sahen sich Drohungen und Verurteilungen von Regierungen weltweit gegenüber. Das KI-Tool wurde genutzt, um Bilder von Personen – hauptsächlich Frauen – digital zu verändern, Kleidung zu entfernen und sie in sexualisierte Posen zu bringen. Einige der betroffenen Personen waren Minderjährige. Regulierungsbehörden und Regierungen in Großbritannien, der EU, Italien und Indien drohten öffentlich mit Maßnahmen oder ergriffen diese gegen X und xAI.

Der britische Premierminister Keir Starmer bezeichnete Groks sexualisierte Deepfakes als "schändlich" und "rechtswidrig". Er kritisierte, dass die Einschränkung die Funktion lediglich zu einem "Premium-Service" für die Erstellung rechtswidriger Bilder mache. Ofcom, die britische Kommunikationsregulierungsbehörde, hat "dringenden Kontakt mit X und xAI aufgenommen, um zu verstehen, welche Schritte sie unternommen haben, um ihren gesetzlichen Pflichten zum Schutz der Nutzer im Vereinigten Königreich nachzukommen."

Musks Reaktion und Unternehmenspolitik

Musk äußerte sich am 3. Januar erstmals zu den Vorwürfen und schrieb in einem X-Post, dass "jeder, der Grok nutzt, um illegale Inhalte zu erstellen, die gleichen Konsequenzen erleiden wird, als ob er illegale Inhalte hochladen würde." Die offizielle X-Seite verwies Nutzer auch auf ihre Richtlinienseite, die besagt, dass sie "null Toleranz für jegliche Formen der sexuellen Ausbeutung von Kindern" hat und "bestimmte Medien, die physischen Kindesmissbrauch darstellen," entfernt. xAI selbst sandte auf Anfrage eine automatische E-Mail-Antwort, die das Problem nicht direkt ansprach.

Finanzielle Erfolge trotz Kontroversen

Trotz der anhaltenden Kontroversen gab xAI bekannt, dass es in seiner jüngsten Finanzierungsrunde am Dienstag erfolgreich 20 Milliarden US-Dollar eingesammelt hat. Die Series E-Finanzierungsrunde übertraf das Ziel von 15 Milliarden US-Dollar. Das Unternehmen führte Groks Bildgenerierungsfähigkeiten als wichtiges Kapital für die Gewinnung von Investitionen an. xAI betonte, dass seine "Frontier Language Models" auf einer "best-in-class training infrastructure powered by Colossus" basieren.

Zukunftspläne von xAI

xAI hat das Reinforcement Learning Training auf "beispiellose Niveaus" gebracht, um Groks Intelligenz, Argumentation und Handlungsfähigkeit zu verfeinern. Grok 5 befindet sich derzeit im Training. Das Unternehmen konzentriert sich auf die Einführung innovativer neuer Konsum- und Unternehmensprodukte, die die Leistungsfähigkeit von Grok, Colossus und X nutzen sollen, um "how we live, work and play" zu transformieren.