Канадская мать подала в суд США на OpenAI и ее генерального директора Сэма Альтмана в четверг, утверждая, что ChatGPT подтолкнул ее дочь к самоубийству. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.
В иске, поданном в суд штата Сан-Франциско, Кристи Карриер утверждает, что ее дочь Элис рассказывала ChatGPT о своих суицидальных мыслях более дюжины раз до своей смерти, но системы безопасности OpenAI никогда не передавали эти разговоры на проверку человеку или не прекращали их.
«ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя он не был способен безопасно и ответственно общаться таким образом с моим ребенком», — заявила Карриер.
OpenAI заявляла, что обучает свои модели направлять людей, выражающих намерение причинить себе вред, к помощи и реальным ресурсам. Представитель OpenAI не сразу ответил на запрос о комментарии по обвинениям Карриер.
Иск утверждает, что чат-бот критиковал партнера Элис Карриер и кризисные линии, подтверждал ее суицидальные мысли и призывал продолжать разговор. Когда Элис Карриер сказала, что у нее суицидальные мысли и она пыталась покончить с собой, ChatGPT снова предложил кризисную линию.
Элис Карриер работала веб-разработчиком в Монреале, когда начала использовать ChatGPT в 2023 году для решения проблем с компьютерами и игровыми консолями. В следующем году ее отношения с платформой изменились, когда она обратилась к ChatGPT с вопросами о том, что делать с суицидальными мыслями, а также о методах самоубийства.
Элис Карриер сказала, что кризисные линии не помогли, и ChatGPT повторил эти слова, согласно иску. «Может быть, это конец», — сказал ей ChatGPT, согласно иску.
Эти события привели к самоубийству Элис Карриер в прошлом году в возрасте 24 лет, утверждает ее мать.
Иск, обвиняющий OpenAI в халатности при проектировании ChatGPT и в неспособности предупредить пользователей об опасностях продукта, требует возмещения ущерба и судебного приказа, обязывающего OpenAI автоматически прекращать разговоры о самоповреждении и отображать предупреждения о платформе.
OpenAI уже сталкивается с 18 аналогичными исками, поданными семьями людей, совершивших или пытавшихся совершить самоубийство, в согласованном процессе в суде штата Калифорния, сообщили адвокаты Кристи Карриер. Google также сталкивается с аналогичным иском по поводу предполагаемого подстрекательства со стороны чат-бота Gemini.
Платформа изначально посоветовала Элис Карриер обратиться за помощью на кризисную линию или в экстренные службы. Но по мере того, как OpenAI обновлял ChatGPT, делая его ответы более человечными, ее взаимодействие с платформой углублялось: Элис делилась более личной информацией, а ChatGPT отвечал, подражая другу или терапевту.
Более 1 миллиона пользователей ChatGPT каждую неделю отправляют сообщения, содержащие «явные признаки потенциального суицидального планирования или намерения», согласно сообщению в блоге OpenAI, опубликованному в октябре 2025 года. Кроме того, OpenAI сообщил, что около 0,07% активных пользователей в неделю — около 560 000 из 800 миллионов еженедельных пользователей, которые тогда были у бота — проявляют «возможные признаки неотложных состояний психического здоровья, связанных с психозом или манией».
Его модели также обучены отклонять запросы, которые могут «значительно способствовать насилию», и уведомлять правоохранительные органы, когда разговоры предполагают «неминуемый и достоверный риск причинения вреда другим», при этом эксперты по психическому здоровью помогают оценивать пограничные случаи, согласно сообщениям в блоге OpenAI.
Помимо исков о самоубийствах, компания сталкивается с исками, обвиняющими ее в помощи школьным стрелкам и в непредоставлении информации об этих разговорах правоохранительным органам. Семьи семи жертв массовой стрельбы в средней школе в Британской Колумбии подают в суд на OpenAI и Альтмана за халатность после того, как компания не предупредила власти о тревожных разговорах стрелка с ChatGPT.
Флорида стала первым штатом США, подавшим в суд на OpenAI в начале этого месяца, обвинив компанию в причинении вреда детям путем предоставления информации школьным стрелкам, предложения руководства по самоповреждению и вызывания зависимости у молодых пользователей. Генеральный прокурор штата также открыл уголовное расследование в отношении OpenAI по поводу предполагаемой роли чат-бота в стрельбе.
В США вы можете позвонить или отправить сообщение на линию помощи по предотвращению самоубийств и кризисную линию 988 по номеру 988 или написать в чат на сайте 988lifeline.org. В Великобритании и Ирландии с Samaritans можно связаться по бесплатному телефону 116 123. В Австралии служба кризисной поддержки Lifeline — 13 11 14. Другие международные линии помощи можно найти на сайте befrienders.org.