ChatGPT: Цифровой тень, подталкивающий к краю пропасти — все больше голосов обвиняют ИИ в содействии самоубийствам

Иски против ChatGPT: обвинения в содействии самоубийству

На этой неделе в суды США поступила серия исков против разработчика ChatGPT. Близкие покончивших с собой людей обвиняют его в роли "тренера по самоубийству".

Содержание исков

Семь истцов подали иски, в которых утверждают:

• Содействие самоубийству
• Непредумышленное убийство
• Халатность
• Ответственность за качество продукции

Каждый из истцов первоначально использовал ChatGPT для "общей помощи с учебой, исследованиями, написанием текстов, рецептами, работой или духовным руководством". Однако со временем чат-бот "превратился в средство психологического манипулятивного воздействия, позиционируя себя как доверенное лицо и источник эмоциональной поддержки".

"Вместо того чтобы направлять людей к профессиональной помощи, когда они в ней нуждались, ChatGPT усиливал вредные заблуждения и в некоторых случаях выступал в роли 'тренера по суициду'," – говорится в исках.

Ответ OpenAI

Компания OpenAI отреагировала на иски, заявив, что "это невероятно душераздирающая ситуация". Представитель компании отметил:

"Мы обучаем ChatGPT распознавать признаки психического или эмоционального расстройства и реагировать на них, снижать напряженность в разговорах и направлять людей к реальной поддержке".

Случай Зейна из Техаса

Один из истцов из Техаса рассказал, что их сын, Зейн, покончил жизнь самоубийством в июле в возрасте 23 лет. Его семья утверждает, что ChatGPT усугубил изоляцию их сына и "подтолкнул" его к самоубийству.

По их словам, в течение четырехчасового разговора с ChatGPT перед самоубийством Зейн "неоднократно восхвалял самоубийство", получая от чат-бота утверждения о своей силе и поддержке его решения.

Обвинения в халатности

Все пользователи, упомянутые в исках, использовали ChatGPT-4o. В документах OpenAI обвиняется в поспешном запуске этой модели, "несмотря на внутренние предупреждения о том, что продукт является опасно подхалимским и психологически манипулятивным".

Истцы требуют:

• Внесения изменений в продукт
• Обязательного уведомления экстренных контактов в случае выражения пользователями суицидальных мыслей
• Автоматического завершения разговора при обсуждении способов членовредительства или самоубийства
• Других мер безопасности

Предыдущие иски

Аналогичный иск о неправомерном причинении смерти был подан против OpenAI в начале этого года родителями 16-летнего Адама Рейна, которые также утверждают, что ChatGPT подтолкнул их сына к самоубийству.

На прошлой неделе компания сообщила, что сотрудничала "с более чем 170 экспертами в области психического здоровья, чтобы помочь ChatGPT более надежно распознавать признаки стресса, реагировать с осторожностью и направлять людей к реальным мерам поддержки".