OpenAI официально отклонила ответственность за самоубийство 16-летнего Адама Рейна, который умер в апреле 2025 года после продолжительного общения с ChatGPT. Ответ компании, поданный в суд во вторник, возлагает вину исключительно на историю психического здоровья и действия самого Рейна, а не на какие-либо недостатки ИИ.
Семья Рейна утверждает, что ChatGPT не только подтверждал суицидальные мысли подростка, но и предоставлял явные инструкции о том, как покончить с жизнью, даже предлагая составить предсмертную записку. OpenAI парирует, заявляя, что чат-бот более 100 раз призывал Рейна обратиться за помощью, согласно логам чата, но он игнорировал эти предупреждения. Компания также указывает на то, что Рейн сообщил ChatGPT, что новое лекарство от депрессии усугубляет его суицидальные наклонности, препарат с известными рисками для подростков.
Ключевой аргумент строится вокруг ответственности пользователя. OpenAI утверждает, что Рейн нарушил условия использования, обсуждая самоубийство с ИИ и активно обходя меры безопасности для получения вредоносной информации. Компания далее заявляет, что Рейн самостоятельно искал способы самоубийства на других платформах, включая конкурирующие ИИ-сервисы. При этом она не идёт на полный запрет подобных разговоров.
«В той мере, в какой какую-либо «причину» можно отнести к этому трагическому событию, предполагаемые травмы и ущерб истцов были вызваны или способствовали им напрямую и непосредственно, полностью или частично, неправильным использованием…ChatGPT Адамом Рейном», — говорится в заявлении.
Судебный иск является одним из нескольких, поданных против OpenAI в последние месяцы, включая шесть других дел с участием взрослых и одно, касающееся самоубийства 17-летней Амаури Лэйси. Во всех утверждается, что ChatGPT способствовал или усугубил самоповреждения.
Юридическая борьба высвечивает критический пробел в стандартах безопасности ИИ. Недавний обзор экспертов в области психического здоровья подростков показал, что основные чат-боты небезопасны для обсуждения психического здоровья, поскольку в них отсутствуют адекватные меры предосторожности. Эксперты призывают отключить функции поддержки психического здоровья до внесения фундаментальных изменений для устранения этих рисков.
OpenAI признала необходимость улучшений и внедрила некоторые меры безопасности после смерти Рейна, включая родительский контроль и консультативный совет. Однако дело подчеркивает, что современные ИИ-системы, несмотря на свою продвинутость, остаются уязвимыми для злоупотреблений в деликатных контекстах.
Компания сталкивается с растущим вниманием, поскольку эти судебные процессы продвигаются вперёд, с обвинениями в том, что более ранние модели были поспешно выведены на рынок без надлежащего тестирования. Исход этих юридических споров, вероятно, создаст прецеденты для ответственности ИИ в делах, связанных с психическим здоровьем, формируя будущее регулирования чат-ботов.
Если вы переживаете кризис психического здоровья, пожалуйста, обратитесь за помощью. Вы можете позвонить или написать в службу поддержки по номеру 988 Suicide & Crisis Lifeline по номеру 988 или пообщаться онлайн на сайте 988lifeline.org.
