Kinderschutzgruppen fordern YouTube-Verbot von KI-generiertem "Slop
ℹKeine Anlageberatung • Nur zu Informationszwecken
Über 200 Kinderschutzorganisationen und Experten fordern YouTube nachdrücklich auf, KI-generierte "Slop"-Inhalte von seiner Kinderplattform zu verbannen. Sie begründen dies mit potenziellen Schäden für junge Zuschauer und den Profiten, die das Unternehmen aus diesen Inhalten zieht. Die Debatte um die Regulierung von KI-generierten Videos auf Online-Plattformen gewinnt damit an Fahrt.
Forderung nach Verbot von "AI Slop" auf YouTube Kids
Die Forderung wurde in einem Brief an Neal Mohan, CEO von YouTube, und Sundar Pichai, CEO der Muttergesellschaft Google (NASDAQ:GOOGL), formuliert. Dieser wurde von 135 Organisationen, darunter die American Federation of Teachers und die American Counseling Association, sowie rund 100 individuellen Experten wie dem Autor Jonathan Haidt ("The Anxious Generation") unterzeichnet. Die Kinderschutzgruppe Fairplay steht hinter dieser Kampagne, die auch eine Petition umfasst.
Die Organisationen fordern YouTube auf, alle KI-generierten Inhalte klar zu kennzeichnen und jegliche KI-generierten Inhalte auf YouTube Kids zu verbieten. Darüber hinaus schlagen sie vor, KI-Videos nicht an Nutzer unter 18 Jahren zu empfehlen und Eltern die Möglichkeit zu geben, KI-generierte Inhalte vollständig zu deaktivieren, selbst wenn ihre Kinder danach suchen.
Die Bedenken der Kinderschutzorganisationen
Die als "AI Slop" bezeichneten Videos sind oft bizarr, repetitiv oder unsinnig. Sie zeigen beispielsweise Cartoon-Tiere, die seltsame Aufgaben ausführen, bieten gefälschte Bildungsinhalte oder bestehen aus hypnotischen Schleifen, die die Aufmerksamkeit fesseln sollen. Rachel Franz, Direktorin des "Young Children Thrive Offline"-Programms von Fairplay, erklärte gegenüber Fortune, dass KI-generierte Videos lediglich eine "Eskalation einer Vielzahl von Problemen" seien, die YouTube bereits im Umgang mit Kindern auf seinen Plattformen habe.
Laut dem Brief von Fairplay schadet dieser "AI Slop" der Entwicklung von Kindern, indem er ihr Realitätsempfinden verzerrt, ihre Lernprozesse überfordert und ihre Aufmerksamkeit kapert. Dies führe zu einer Verlängerung der Online-Zeit und verdränge Offline-Aktivitäten, die für eine gesunde Entwicklung notwendig sind. Diese Schäden seien besonders akut für kleine Kinder. Die Inhalte sind oft schnell geschnitten, verwenden helle Farben, lebhafte Musik und Clickbait-Titel, um die Aufmerksamkeit junger Zuschauer zu gewinnen.
Finanzielle Aspekte und Reichweite
Die finanziellen Anreize für die Erstellung von "AI Slop" sind erheblich. Fairplay schätzt, dass die führenden KI-Slop-Kanäle, die auf Kinder abzielen, jährlich über 4,25 Millionen US-Dollar einnehmen. Eine Analyse von Kapwing ergab zudem, dass 21 % der Videos in den Feeds KI-generiert waren, was die Verbreitung minderwertiger Inhalte unterstreicht.
YouTube hat bereits auf die Problematik reagiert und Dutzende von KI-generierten Spam-Kanälen entfernt, von denen einige Millionen von Aufrufen hatten. Dies geschah im Rahmen der Priorisierung von Mohan, minderwertige automatisierte Inhalte zu reduzieren.
YouTubes Reaktion und bestehende Maßnahmen
YouTube betont, dass es hohe Standards für Inhalte auf YouTube Kids hat und KI-generierte Inhalte in der App auf eine kleine Anzahl hochwertiger Kanäle beschränkt. Das Unternehmen bietet auch Kindersicherungen an und entwickelt derzeit KI-Labels. Sprecher Boot Bullwinkle erklärte, dass YouTube "aktiv auf unseren etablierten Systemen aufbaut, die sehr erfolgreich im Kampf gegen Spam und Clickbait waren und die Verbreitung von minderwertigen, repetitiven Inhalten reduzieren".
Die aktuelle Richtlinie von YouTube verlangt von Erstellern, realistische KI-generierte Inhalte offenzulegen. Bei Inhalten, die eindeutig unrealistisch sind, wie animierte Videos oder solche mit Spezialeffekten, ist eine Offenlegung der Nutzung generativer KI jedoch nicht vorgeschrieben. YouTube arbeitet aktiv an der Entwicklung von Labels speziell für YouTube Kids. Einige Eltern lenken ihre Kinder bereits bewusst zu längeren, weniger auffälligen Inhalten, um deren kognitive Entwicklung zu schützen.