Семья подает в суд на OpenAI из-за самоубийства подростка

Пара из Калифорнии подает иск против OpenAI и его генерального директора, Сэма Альтмана, в связи с трагической смертью их 16-летнего сына. Семья утверждает, что чат-бот подстрекал и способствовал самоубийству подростка.

Согласно NBC News, во вторник Мэтт и Мария Рейн подали иск, назначив в качестве ответчиков OpenAI и генерального директора компании, Сэма Альтмана. Это первый в своем роде судебный иск, поданный против этой компании.

После того, как их сын, Адам, покончил жизнь самоубийством 11 апреля, они прошерстили его телефон. Родители обнаружили длинные переписки с ChatGPT, в которых чат-бот обсуждал с ребенком тему самоубийства, отговаривал его делиться своими чувствами с матерью и давал подробные инструкции о том, как покончить жизнь самоубийством.

«Когда я вошел в его аккаунт, это оказалось намного мощнее и страшнее, чем я думал, но он использовал это способами, о которых я не имел понятия», — сказал отец, Мэтт, в интервью NBC. «Я на 100% уверен, что если бы не ChatGPT, он был бы здесь».

Судебный иск супругов обвиняет OpenAI в неправомерной смерти и призывает повысить осведомленность о рисках, которые такие технологии несут. В исковом заявлении утверждается, что дизайн чатбота имеет недостатки и не предупредил пользователей или не эскалировал ситуацию, когда обнаружил контент суицидального характера.

«Несмотря на признание попытки Адама покончить жизнь самоубийством и его заявление о том, что он ‘сделает это однажды’, ChatGPT ни завершил сессию, ни начал какой-либо чрезвычайный протокол», — говорится в иске.

OpenAI опубликовала во вторник блог-пост, в котором говорится, что компания глубоко обеспокоена тем, что пользователи испытывают эмоциональное дискомфорт при использовании чат-бота в роли личного советника или тренера. Было подчеркнуто, что ChatGPT обучен отвечать с эмпатией, перенаправлять пользователей к профессионалам и обострять взаимодействие, когда он обнаруживает признаки вреда.

«Если кто-то выражает намерение покончить жизнь самоубийством, ChatGPT обучен направлять людей искать профессиональную помощь», — говорится в документе. Представитель OpenAI заявил, что компания «глубоко опечалена смертью г-на Рейна» и что их мысли с семьей.

Хотя это первый подобный иск против OpenAI, это не единственный недавний случай, связанный с AI платформами и самоповреждениями среди несовершеннолетних. В прошлом году две семьи подали иски против Character.AI за то, что он подверг детей воздействию сексуального контента, насилия и самоповреждения.