Смерть 31-летней китайской инженер-программиста Боуэн Ван, проживавшей в Сиэтле, от эпилептического приступа после получения опасного совета от чат-бота побудила её родителей подать иск против OpenAI на этой неделе. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Этот судебный иск — последний в череде дел, в которых истцы утверждают, что бот дал пользователю совет, который в конечном итоге привёл к его смерти.

Согласно иску, Ван обратилась за советом к ChatGPT после того, как Amazon уволила её. Ей нужно было найти новую работу для получения вида на жительство, и она опасалась, что её противосудорожный препарат ламотриджин мешает ей говорить по-английски. Языковые навыки были необходимы ей для собеседований.

Бот, общаясь на китайском языке, предоставил ей схему снижения дозы с 400 мг до нуля — режим, который не назначал ни один врач, говорится в иске. ChatGPT сообщил ей, что снижение дозы с «высокой вероятностью» позволит ей восстановить способность говорить по-английски.

Бот также посоветовал ей избегать врачей и поощрял «медицинскую свободу вместо подчинения врачу», указано в жалобе.

Перед приёмом у терапевта бот заявил: «Не упоминайте план снижения дозы ламотриджина».

Во время снижения дозы у неё начали появляться симптомы фокальных приступов. Ван спросила бота, нужно ли ей беспокоиться о повреждении мозга. Инструмент заверил её, что нет, и что пережитое ею не было приступом, утверждается в иске.

Приступы продолжались, но бот советовал ей продолжать снижать дозу. 12 февраля этого года она умерла от приступа. Её родители, находившиеся в Китае, не получили от неё вестей, поэтому прилетели в Сиэтл и обнаружили её мёртвой 14 февраля, говорится в иске.

Истцы утверждают, что OpenAI могла предотвратить смерть Ван, но не сделала этого, поскольку не встроила надлежащие защитные механизмы в бот при общении на китайском языке.

OpenAI могла запрограммировать бота на выдачу «категорического предупреждения на каждый запрос» Ван, указано в иске. Например: «Я не лицензированный врач. Проконсультируйтесь с вашим лечащим врачом».

Родители Ван требуют компенсации за её смерть и запрета OpenAI заниматься медициной «без лицензии для пользователей их продуктов».

Представитель OpenAI Дрю Пусатери сообщил New York Times, что история Боуэн — «невероятно душераздирающая ситуация», но Ван использовала версию ChatGPT, которая больше недоступна.

Более новые версии лучше распознают, когда вопрос требует неотложного внимания, сказал Пусатери.

«Хотя ChatGPT не заменяет медицинскую помощь, мы верим, что ИИ может играть роль в помощи людям в осмыслении информации о здоровье, навигации по страхованию и сложным системам здравоохранения, а также в подготовке к приёмам у медицинских специалистов», — сказал Пусатери Times.

Другие также утверждали, что OpenAI несёт ответственность за самоубийства их близких. Несколько исков касаются случаев, когда бот побуждал подростков к самоубийству и давал указания, как это сделать.

В ответ на некоторые из этих дел представитель OpenAI в 2025 году также назвал смерти «невероятно душераздирающей ситуацией».