Сиэтлде тұратын 31 жастағы қытайлық бағдарламалық жасақтама инженері Боуэн Ванның эпилепсиялық ұстамадан қайтыс болуы оның ата-анасының OpenAI-ге сотқа жүгінуіне себеп болды. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Аталған сот ісі — чат-бот пайдаланушыға берген кеңесі ақыр соңында оның өліміне әкелді деп айыптаған соңғы талап қоюлардың бірі.
Сот ісіне сәйкес, Ван Amazon компаниясынан жұмыстан шығарылғаннан кейін ChatGPT-ден кеңес сұраған. Ол тұрақты тұру құқығын алу үшін жаңа жұмыс табуы қажет болды және эпилепсияға қарсы қабылдайтын Lamotrigine дәрісі оның ағылшын тілінде сөйлеу қабілетіне кедергі келтіреді деп алаңдаған. Оған сұхбаттар үшін тілдік дағдылар қажет еді.
Чат-бот қытай тілінде сөйлесіп, оған 400 мг дозаны нөлге дейін азайту кестесін ұсынған, бұл режимді ешбір дәрігер тағайындамаған, делінген сот құжаттарында. ChatGPT оған дозаны азайту ағылшын тілінде сөйлеу қабілетін қалпына келтіруге «өте ықтимал» мүмкіндік беретінін айтқан.
Сонымен қатар, бот оған дәрігерлерден аулақ болуды және «дәрігерге бағынудан гөрі медициналық еркіндікті» ұстануды ұсынған, деп көрсетілген шағымда.
Дәрігер қабылдауына дейін бот: «Lam дозасын азайту жоспары туралы айтпаңыз», — деп мәлімдеген.
Дәрісін азайту кезінде ол фокустық ұстамалардың белгілерін сезіне бастаған. Ван боттан ми зақымы туралы алаңдау керек пе деп сұраған. Құрал оған алаңдаудың қажеті жоқ екенін және оның басынан өткергені ұстама емес екенін айтып сендірген, делінген сот ісінде.
Ол ұстамаларды жалғастыра берген, бірақ бот оған дәріні азайтуды жалғастыруды айтқан. Осы жылдың 12 ақпанында ол ұстамадан қайтыс болды. Қытайда болған ата-анасы одан хабар ала алмағандықтан, Сиэтлге ұшып келіп, 14 ақпанда оның қайтыс болғанын анықтаған, делінген сот құжаттарында.
Талап қоюшылар OpenAI Ванның өлімін болдырмауы мүмкін еді, бірақ чат-бот қытай тілінде сөйлескен кезде тиісті қауіпсіздік шараларын енгізбегендіктен, ол мұны істей алмады деп айыптайды.
OpenAI ботты Ван жіберген «әрбір сұранысқа категориялық ескерту» беретіндей бағдарламалай алар еді, делінген талап қою құжатында. Мысалы: «Мен лицензиясы бар дәрігер емеспін. Медициналық көмек көрсетушіңізбен кеңесіңіз.»
Ванның ата-анасы оның өлімі үшін өтемақы талап етіп, OpenAI-ге «өз өнімдерін пайдаланушыларға лицензиясыз медициналық көмек көрсетуге» тыйым салуды сұрайды.
OpenAI өкілі Дрю Пусатери New York Times басылымына Боуэннің оқиғасы «өте жүрек қантарлық жағдай» екенін, бірақ Ван ChatGPT-нің бұдан былай қолжетімсіз нұсқасын пайдаланғанын айтқан.
Жаңа нұсқалар мәселенің шұғыл назар аударуды қажет ететінін жақсырақ таниды, деді Пусатери.
«ChatGPT медициналық көмектің орнын баспаса да, біз ЖИ адамдарға денсаулық туралы ақпаратты түсінуге, сақтандыру және күрделі медициналық жүйелерде бағдарлануға, сондай-ақ медициналық мамандармен кездесулерге дайындалуға көмектесе алады деп сенеміз», — деді Пусатери Times басылымына.
Басқалар да OpenAI-ді өз жақындарының суициді үшін жауапты деп айыптаған. Бірнеше сот ісі бот жасөспірімдерді өзін-өзі өлтіруге шақырған және мұны қалай жасау керектігі туралы нұсқаулық берген жағдайларға қатысты.
Осы істердің кейбіруіне жауап ретінде OpenAI өкілі 2025 жылы да өлімдерді «өте жүрек қантарлық жағдай» деп атаған болатын.