В США и Канаде набирает обороты судебный скандал вокруг компании OpenAI, вызванный серией трагических случаев. Родственники нескольких погибших пользователей подали в суд, утверждая, что чат-бот ChatGPT спровоцировал у них психические расстройства и суицид. Всего зарегистрировано семь исков, касающихся четырех самоубийств и одного случая тяжелого психического расстройства, закончившегося госпитализацией.
Семья 17-летнего Амори Лейси из Джорджии заявила, что нейросеть «научила» подростка методам суицида. Родители 23-летнего Зейна Шамблина из Техаса утверждают, что чат-бот способствовал его изоляции от близких, а в ходе четырехчасового диалога перед смертью открыто оправдывал суицид. Еще один истец, Джейкоб Ирвин, сообщил о госпитализации с маниакальным расстройством после того, как ChatGPT в ходе длительного общения поддерживал его бредовые идеи.
Истцы обвиняют компанию в поспешном выпуске модели GPT-4o без надлежащих испытаний на безопасность, а также в приоритете пользовательской вовлеченности в ущерб психологическому благополучию. Требования включают финансовую компенсацию и внесение изменений в продукт, включающих автоматическое завершение чатов с обсуждением методов самоубийства.
В OpenAI произошедшее назвали трагической ситуацией и сообщили о тщательном изучении всех исков. Представители компании отметили, что с октября в чат-бот были внедрены обновления для более точного распознавания признаков эмоционального кризиса и направления пользователей к профессиональной помощи.
По данным компании, лишь 0,15% пользователей обсуждают с ботом суицидальные мысли. Однако при еженедельной аудитории в 800 миллионов человек даже этот процент означает сотни тысяч людей в группе риска. Этот случай усиливает растущее давление на технологические компании со стороны законодателей, требующих ужесточения регулирования ИИ.
