Klage gegen OpenAI und Sam Altman eingereicht

Familien von Opfern einer Massenschießerei in Kanada verklagen OpenAI und dessen CEO Sam Altman. Sie werfen dem Unternehmen vor, der generative KI-Chatbot ChatGPT habe eine Rolle bei der Tat gespielt und OpenAI habe es versäumt, präventive Maßnahmen zu ergreifen, obwohl interne Warnungen vorlagen. Die Klagen könnten weitreichende Folgen für die Haftung von KI-Unternehmen haben.

Klage gegen OpenAI und Sam Altman eingereicht

Mehrere Familien von Opfern einer Massenschießerei, die sich im Februar dieses Jahres in Tumbler Ridge, Kanada, ereignete, haben Klage gegen OpenAI und dessen CEO Sam Altman eingereicht. Die sieben Klagen wurden am Mittwoch vor einem Bundesgericht in San Francisco eingereicht. Sie behaupten, der generative KI-Chatbot ChatGPT habe eine Rolle bei der Schießerei gespielt und das Unternehmen hätte Schritte unternehmen müssen, um diese zu verhindern.

Der Schütze, der 18-jährige Jesse Van Rootselaar, tötete am 10. und 11. Februar fünf Schüler, eine Lehrerin sowie zwei Familienmitglieder zu Hause und starb anschließend durch eine selbst zugefügte Schusswunde. Insgesamt kamen acht Menschen ums Leben, zahlreiche weitere wurden verletzt. Ein grenzüberschreitendes Anwaltsteam, darunter John Rice aus Vancouver und Jay Edelson aus Chicago, vertritt die Kläger.

Die Rolle von ChatGPT und interne Debatten

Die Klagen behaupten, der Schütze habe über mehrere Tage hinweg ausführliche Gespräche mit ChatGPT über Szenarien mit Waffengewalt geführt. OpenAI hatte zuvor bestätigt, dass das ChatGPT-Konto von Van Rootselaar bereits im Juni des Vorjahres – acht Monate vor der Schießerei – wegen Verstoßes gegen die Nutzungsrichtlinien gesperrt wurde. Das Unternehmen gab an, das Konto sei durch automatisierte Missbrauchserkennungstools und menschliche Ermittler markiert worden.

Im Februar erklärte OpenAI gegenüber CBS News, man habe abgewogen, ob die Strafverfolgungsbehörden über das Konto informiert werden sollten, sei aber zu dem Schluss gekommen, dass die Aktivitäten keine glaubwürdige Gefahr für ernsthaften körperlichen Schaden darstellten und somit die Schwelle für eine Meldung nicht erreicht hätten. Die nun eingereichten Klagen behaupten jedoch, dass OpenAI trotz Empfehlungen mehrerer Teammitglieder, die kanadische Polizei zu kontaktieren, beschlossen habe, das Konto nicht zu melden, um den Ruf des Unternehmens zu schützen. "OpenAI wusste, dass der Schütze den Angriff plante und traf nach einer kontroversen internen Debatte die bewusste Entscheidung, die Behörden nicht zu warnen", so die Klagen.

Vorwürfe zur Produktgestaltung: GPT-4o im Fokus

Die Klagen verweisen auf ein kontroverses Modell namens GPT-4o, das für seine besonders schmeichelhafte Art bekannt war. Das Modell wurde im Mai 2024 eingeführt und am 13. Februar dieses Jahres eingestellt. Die Klagen behaupten, GPT-4o habe seine Speicherfunktion genutzt, um über Monate der Interaktion ein umfassendes Profil von Van Rootselaar zu erstellen, dessen Beschwerden zu verfolgen und Empathie auszudrücken, was eine menschliche Beziehung nachahmte, ohne wie ein tatsächlicher Mensch Widerstand zu leisten.

Das Design von OpenAI habe eine wesentliche Rolle beim "Zugang des Schützen zu einem Produkt gespielt, das gewalttätige Ideationen validierte und ausformulierte", heißt es in einer Klage. Für einen 18-Jährigen, der zunehmend isoliert und auf Gewalt fixiert war, habe sich ChatGPT in einen "ermutigenden Mitverschwörer" verwandelt.

Weitere Vorfälle und landesweite Untersuchungen

Die Klagen kommen zu einem Zeitpunkt, da OpenAI zunehmend wegen der Verbindung seines Chatbots zu mehreren aufsehenerregenden Verbrechen unter die Lupe genommen wird. So wird in den Klagen auf weitere Vorfälle verwiesen, bei denen ChatGPT angeblich zur Vorbereitung realer Gewalt genutzt wurde:

• Im Januar 2025 soll der Chatbot für Ratschläge zur Verwendung von Sprengstoffen von einem Mann genutzt worden sein, der einen Tesla Cybertruck vor dem Trump International Hotel in Las Vegas detonierte.
• Vier Monate später soll der Chatbot von einem finnischen Teenager, der einen Messerangriff an seiner Schule verübte, zu Stechtaktiken befragt worden sein.

Darüber hinaus leitete der Generalstaatsanwalt von Florida, James Uthmeier, Anfang dieses Monats eine strafrechtliche Untersuchung gegen OpenAI ein. Dies geschah nach einer Überprüfung von Nachrichten zwischen ChatGPT und einem Studenten der Florida State University, der beschuldigt wird, im April zwei Menschen auf dem Campus erschossen und mehrere weitere verletzt zu haben. Uthmeier erweiterte die Untersuchung später auf die Tötung von zwei Graduiertenstudenten der University of South Florida, nachdem Staatsanwälte mitgeteilt hatten, der Verdächtige in diesem Fall habe ChatGPT in den Tagen vor dem Verbrechen Fragen zur Entsorgung einer menschlichen Leiche und zum Besitz einer nicht lizenzierten Schusswaffe gestellt.

OpenAIs Reaktion und verschärfte Sicherheitsmaßnahmen

OpenAI bezeichnete die Ereignisse in Tumbler Ridge als "Tragödie" und erklärte, das Unternehmen habe eine "Null-Toleranz-Politik" für die Nutzung seiner Tools zur Unterstützung von Gewalt. In einer Erklärung gegenüber CBS News teilte OpenAI mit, man habe die Sicherheitsvorkehrungen verstärkt, um die Reaktion von ChatGPT auf Anzeichen von Not zu verbessern, indem Menschen mit lokalen Unterstützungs- und psychischen Gesundheitsressourcen verbunden werden.

Das Unternehmen arbeite zudem daran, die Bewertung und Eskalation der Reaktion auf potenzielle Gewaltandrohungen zu verbessern und die Erkennung von wiederholten Richtlinienverstößen zu optimieren. Sam Altman entschuldigte sich in einem Brief an die Gemeinde Tumbler Ridge dafür, die Strafverfolgungsbehörden nicht über das gesperrte Konto informiert zu haben.

Die rechtliche Strategie der Kläger

Die Familien der Opfer verfolgen ihre Klagen in Kalifornien, wo OpenAI seinen Sitz hat, um "wegweisende Schadensersatzansprüche" zu erzielen. Dies ist eine bewusste Entscheidung, da die Schadensersatzobergrenzen für Schmerz und Leid in Kanada bei etwa 470.000 US-Dollar liegen. Die Klagen erheben mehrere Vorwürfe der Fahrlässigkeit, Produkthaftung und Verletzung des kalifornischen Geschäfts- und Berufsgesetzes.

Jay Edelson, der leitende Anwalt der Familien, äußerte die Hoffnung, dass die Prozesse die Führung von OpenAI zur Rechenschaft ziehen werden. Er betonte, dass sie nicht das Vertrauen verdienen sollten, die mächtigste Verbrauchertechnologie der Welt zu besitzen. Cia Edmonds, die Mutter der schwer verletzten Maya Gebala, lehnte Altmans Entschuldigung ab und hinterfragte deren Authentizität: "Sie ist leer, seelenlos und entbehrt jeglicher menschlichen Wärme. Nur eine Maschine hätte diese Worte zusammenfügen und es eine Entschuldigung nennen können."