UK verschärft KI-Chatbot-Regulierung nach Grok-Skandal zum Kinderschutz

Die britische Regierung schließt eine wichtige Gesetzeslücke im Online Safety Act, indem sie künstliche Intelligenz (KI)-Chatbots in die Regulierung einbezieht. Diese Maßnahme, angekündigt von Premierminister Keir Starmer, zielt darauf ab, Kinder vor illegalen und schädlichen Inhalten zu schützen, die durch KI generiert werden können, und droht bei Nichteinhaltung mit erheblichen Strafen.

Strengere Regeln für KI-Chatbots im Fokus

Premierminister Keir Starmer hat neue Maßnahmen vorgestellt, die KI-Chatbots wie OpenAI's ChatGPT, Google's Gemini und Microsoft Copilot unter das britische Online Safety Act stellen. Die Plattformen müssen künftig "illegal content duties" erfüllen und riskieren bei Verstößen hohe Geldstrafen von bis zu 10 % ihres weltweiten Umsatzes oder sogar die Blockierung ihrer Dienste im Vereinigten Königreich. Die Regierung betont, dass sie schnell handeln wird, um diese Gesetzeslücke zu schließen und alle Anbieter von KI-Chatbots zur Einhaltung der Vorschriften zu zwingen.

Der Grok-Skandal als Auslöser

Die Entscheidung folgt auf eine intensive Kritik an Elon Musks Plattform X und deren Chatbot Grok, nachdem dieser sexuell explizite Bilder von Kindern und anderen Personen generiert hatte. Ofcom, die britische Medienaufsichtsbehörde, leitete eine Untersuchung gegen X ein, und die Europäische Kommission hatte X bereits im Januar wegen der Verbreitung solcher Inhalte untersucht. Starmer betonte: "Die Maßnahmen, die wir gegen Grok ergriffen haben, sendeten eine klare Botschaft, dass keine Plattform einen Freifahrtschein erhält." Er fügte hinzu, dass Schlupflöcher geschlossen werden, die Kinder gefährden, und die Grundlage für weitere Maßnahmen gelegt wird.

Erweiterung des Online Safety Act

Bisher waren KI-Chatbots nicht vollständig vom Online Safety Act erfasst, insbesondere wenn sie Inhalte generierten, ohne das Internet zu durchsuchen, es sei denn, es handelte sich um Pornografie. Diese Lücke ermöglichte es, dass Material, das zu Selbstverletzung oder Suizid ermutigt, oder sogar Material zum sexuellen Missbrauch von Kindern, ohne Sanktionen erstellt werden konnte. Die Gesetzesänderung soll dies beheben und die Anbieter von Chatbots dafür verantwortlich machen, die Generierung illegaler oder schädlicher Inhalte zu verhindern. Alex Brown, Leiter der TMT-Abteilung bei der Anwaltskanzlei Simmons & Simmons, merkte an, dass die Regierung damit einen neuen Ansatz verfolge, indem sie die Technologie selbst reguliere und nicht nur deren Anwendungsfälle.

Breitere Maßnahmen zum Kinderschutz

Die Regulierung von KI-Chatbots ist Teil eines umfassenderen Pakets zum Schutz von Kindern im Internet. Starmer kündigte weitere Befugnisse an, die Folgendes umfassen:

• Festlegung von Mindestaltergrenzen für Social-Media-Plattformen.
• Einschränkung schädlicher Funktionen wie "Infinite Scrolling".
• Begrenzung der Nutzung von KI-Chatbots und des Zugangs zu VPNs für Kinder.
• Verpflichtung für Social-Media-Unternehmen, Daten nach dem Tod eines Kindes aufzubewahren, es sei denn, die Online-Aktivität steht eindeutig nicht im Zusammenhang mit dem Tod.

Die Regierung hat zudem im Januar eine Konsultation über ein Verbot von sozialen Medien für unter 16-Jährige eingeleitet. Das House of Lords stimmte bereits für eine entsprechende Änderung des Children's Wellbeing and Schools Bill, die nun vom House of Commons geprüft wird.

Internationale Entwicklungen und Kritik

Großbritannien reiht sich mit diesen Maßnahmen in eine wachsende Liste von Ländern ein, die den Zugang von Kindern zu sozialen Medien und KI-Inhalten strenger regulieren. Australien führte im Dezember ein Gesetz ein, das Jugendlichen unter 16 Jahren die Nutzung sozialer Medien verbietet. Spanien folgte als erstes europäisches Land mit einem ähnlichen Verbot, während Frankreich, Griechenland, Italien, Dänemark und Finnland vergleichbare Vorschläge prüfen.

Die Konservativen kritisierten jedoch die Behauptung der Regierung, schnell zu handeln, als "mehr Schein als Sein", da die Konsultation noch nicht begonnen habe. Laura Trott, Schatten-Bildungsministerin, forderte eine klare Haltung zum Verbot von sozialen Medien für unter 16-Jährige. Chris Sherwood, CEO der NSPCC, bestätigte, dass junge Menschen sich an die Helpline wenden und über Schäden durch KI-Chatbots berichten.

Die neuen Maßnahmen könnten innerhalb weniger Wochen in Kraft treten, um die Sicherheit von Kindern im digitalen Raum zu gewährleisten.