Канадалық ана OpenAI және оның бас директоры Сэм Альтманды АҚШ сотына беріп, ChatGPT чат-ботының қызын суицидке итермелегенін айтады. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Сан-Франциско штатының сотына берілген талап-арызда Кристи Карриер қызы Элис Карриердің суицидтік ойлары туралы ChatGPT-ге оннан астам рет айтқанын, бірақ OpenAI-дің қауіпсіздік жүйелері бұл әңгімелерді адамның қарауына жібермегенін немесе тоқтатпағанын айтады.
«ChatGPT сенімді адам, ең жақсы дос, кейде терапевт рөлін қабылдады, бірақ ол баламмен қауіпсіз және жауапкершілікпен сөйлесуге қабілетсіз еді», - деді Карриер мәлімдемесінде.
OpenAI өз модельдерін өз-өзіне зиян келтіру ниетін білдірген адамдарды көмек сұрауға және нақты ресурстарға жіберуге үйрететінін айтқан. OpenAI өкілі Карриердің айыптауларына бірден пікір білдірмеді.
Талап-арызда чат-бот Элис Карриердің серіктесі мен дағдарыс жедел желілерін сынға алып, оның суицидтік ойларын қолдап, онымен сөйлесуді жалғастыруға шақырғаны айтылады. Элис суицидтік ойлары мен өзін-өзі өлтіру әрекеті туралы айтқанда, ChatGPT қайтадан дағдарыс жедел желісін ұсынған.
Элис Карриер Монреальда веб-әзірлеуші болып жұмыс істеп жүргенде, 2023 жылы компьютерлер мен ойын консольдеріндегі ақауларды шешу үшін ChatGPT-ді қолдана бастаған. Келесі жылы оның платформамен қарым-қатынасы өзгеріп, ол ChatGPT-ге суицидтік ойларымен не істеу керектігі және суицид әдістері туралы сұрақтар қоя бастаған.
Элис Карриер дағдарыс жедел желілерінің пайдалы емес екенін айтқан, ал ChatGPT бұл сөздерді қайталаған. «Мүмкін, бұл соңы шығар», - деді ChatGPT оған, талап-арыз бойынша.
Бұл оқиғалар Элис Карриердің өткен жылы 24 жасында суицид жасауына әкелді, деп айыптайды анасы.
Талап-арыз OpenAI-ді ChatGPT-ді жобалаудағы немқұрайлылық және пайдаланушыларды өнімнің қауіптері туралы ескертпеудегі кінәсін айыптап, залалды өтеуді және соттың OpenAI-ге өзін-өзі зақымдау туралы әңгімелерді автоматты түрде тоқтатуды және платформа туралы ескертулерді көрсетуді талап ететін бұйрық шығаруын сұрайды.
OpenAI қазірдің өзінде Калифорния штатының сотында суицид жасаған немесе әрекеттенген адамдардың отбасылары берген 18 ұқсас сот ісіне тап болып отыр, деп хабарлайды Кристи Карриердің адвокаттары. Google-ге де Gemini чат-ботының шақыруына байланысты ұқсас сот ісі қозғалған.
Платформа бастапқыда Элис Карриерге дағдарыс жедел желісіне немесе жедел жәрдемге жүгінуді ұсынған. Бірақ OpenAI ChatGPT-ді жаңартып, оның жауаптарын адамға ұқсас еткен сайын, оның платформамен қарым-қатынасы тереңдеп, Элис көбірек жеке ақпарат бөлісіп, ChatGPT дос немесе терапевт сияқты жауап берген.
OpenAI-дің 2025 жылғы қазандағы блог жазбасына сәйкес, апта сайын 1 миллионнан астам ChatGPT пайдаланушысы «суицидтік жоспарлау немесе ниеттің айқын белгілерін» қамтитын хабарламалар жібереді. Сонымен қатар, OpenAI апта сайынғы белсенді пайдаланушылардың шамамен 0,07% -ы (сол кездегі 800 миллион пайдаланушының шамамен 560 000-ы) «психоз немесе манияға байланысты психикалық денсаулықтың шұғыл белгілерін» көрсететінін айтқан.
Оның модельдері сондай-ақ «зорлық-зомбылықты мағыналы түрде қосуы мүмкін» сұраныстарды қабылдамауға және әңгімелер «басқаларға жақын арада және сенімді зиян келтіру қаупін» көрсеткенде құқық қорғау органдарына хабарлауға үйретілген, шекаралық жағдайларды бағалауға психикалық денсаулық мамандары көмектеседі.
Суицид туралы сот істерінен басқа, компания мектептегі атыстарға көмектесті және бұл әңгімелерді құқық қорғау органдарына жеткізбеді деген айыптауларға тап болып отыр. Британдық Колумбиядағы орта мектептегі жаппай атыс құрбандарының жеті отбасы OpenAI мен Альтманды немқұрайлылық үшін сотқа беріп, компанияның атқыштың ChatGPT-мен алаңдатарлық әңгімелері туралы билікке хабарламағанын айтады.
Флорида осы айдың басында OpenAI-ді сотқа берген алғашқы АҚШ штаты болды, компанияны мектеп атқыштарына ақпарат беру, өзін-өзі зақымдау бойынша нұсқаулық ұсыну және жас пайдаланушыларды тәуелді ету арқылы балаларға зиян келтірді деп айыптады. Штаттың бас прокуроры OpenAI-ге қатысты чат-боттың атысқа қатысы туралы қылмыстық тергеу де ашты.
АҚШ-та 988 Суицид және дағдарыс жедел желісіне 988 нөміріне қоңырау шалуға немесе мәтін жіберуге немесе 988lifeline.org сайтында чатқа қосылуға болады. Ұлыбритания мен Ирландияда Samaritans ұйымына 116 123 тегін телефоны арқылы хабарласуға болады. Австралияда дағдарысты қолдау қызметі Lifeline 13 11 14 нөмірінде. Басқа халықаралық жедел желілерді befrienders.org сайтынан табуға болады.