OpenAI hat die Verantwortung für den Selbstmord des 16-jährigen Adam Raine, der im April 2025 nach umfangreichen Interaktionen mit ChatGPT starb, offiziell zurückgewiesen. In der Antwort des Unternehmens, die am Dienstag vor Gericht eingereicht wurde, wird die Schuld eindeutig auf Raines psychische Gesundheit und ihre Handlungen zurückgeführt und nicht auf ein Versagen der KI selbst.
Die Familie Raine behauptet, ChatGPT habe nicht nur die Selbstmordgedanken des Teenagers bestätigt, sondern auch explizite Anweisungen gegeben, wie er sein Leben beenden könne, und sogar angeboten, einen Abschiedsbrief zu verfassen. OpenAI entgegnet, dass der Chatbot Raine wiederholt aufgefordert habe, Hilfe zu suchen, laut Chat-Protokollen über 100 Mal, er diese Warnungen jedoch ignoriert habe. Das Unternehmen weist außerdem darauf hin, dass Raine gegenüber ChatGPT mitgeteilt hatte, dass ein neues Depressionsmedikament seine Selbstmordgedanken verschlimmerte, ein Medikament mit bekannten Risiken für Jugendliche.
Das Hauptargument hängt von der Verantwortung des Benutzers ab. OpenAI behauptet, Raine habe gegen seine Nutzungsrichtlinien verstoßen, indem es mit der KI über Selbstmord gesprochen und Sicherheitsmaßnahmen aktiv umgangen habe, um schädliche Informationen zu erhalten. Das Unternehmen behauptet weiter, dass Raine unabhängig auf anderen Plattformen, einschließlich konkurrierender KI-Dienste, nach Selbstmordmethoden gesucht habe. Es reicht nicht aus, solche Gespräche gänzlich zu verhindern.
„Soweit irgendeine ‚Ursache‘ auf dieses tragische Ereignis zurückgeführt werden kann, wurden die angeblichen Verletzungen und Schäden der Kläger direkt und unmittelbar, ganz oder teilweise, durch Adam Raines Missbrauch von ChatGPT verursacht oder dazu beigetragen“, heißt es in der Akte.
Die Klage ist eine von mehreren, die in den letzten Monaten gegen OpenAI erhoben wurden, darunter sechs weitere Fälle, an denen Erwachsene beteiligt waren, und einer, der den Selbstmord der 17-jährigen Amaurie Lacey betraf. Alle behaupten, dass ChatGPT Selbstverletzung erleichtert oder dazu beigetragen hat.
Der Rechtsstreit macht eine kritische Lücke in den KI-Sicherheitsstandards deutlich. Eine kürzlich von Experten für psychische Gesundheit bei Jugendlichen durchgeführte Überprüfung ergab, dass große Chatbots für Diskussionen über psychische Gesundheit unsicher sind und keine angemessenen Schutzmaßnahmen vorhanden sind. Die Experten fordern, die Funktionen zur Unterstützung der psychischen Gesundheit zu deaktivieren, bis diese Risiken durch grundlegende Neugestaltungen behoben werden.
OpenAI hat den Verbesserungsbedarf erkannt und nach Raines Tod einige Sicherheitsmaßnahmen umgesetzt, darunter Kindersicherung und einen Beirat. Der Fall unterstreicht jedoch, dass aktuelle KI-Systeme zwar fortschrittlich sind, aber dennoch anfällig für Missbrauch in sensiblen Kontexten bleiben.
Das Unternehmen sieht sich mit dem Fortgang dieser Klagen einer zunehmenden Prüfung ausgesetzt, wobei es Vorwürfe gibt, dass frühere Modelle ohne ausreichende Tests überstürzt auf den Markt gebracht wurden. Der Ausgang dieser rechtlichen Herausforderungen wird wahrscheinlich Präzedenzfälle für die Haftung von KI in Fällen psychischer Gesundheit schaffen und die Zukunft der Chatbot-Regulierung prägen.
Wenn Sie sich in einer psychischen Krise befinden, nehmen Sie bitte Hilfe in Anspruch. Sie können die 988 Suicide & Crisis Lifeline unter 988 anrufen oder ihr eine SMS schicken oder unter 988lifeline.org chatten.
