Жасанды интеллект саласындағы зерттеуші, AI фирмасы Anthropic-тен кеткен Джейкоб Коксон технологияның даму жылдамдығы мен оның адамзат үшін салдары туралы алаңдаушылық білдірді. Ол өзінің отставкасы туралы жазбасы AI қауіпсіздігіне қатысты алаңдаушылық күшейіп тұрған кезде таралып кеткен соң BBC-ге сұхбат берді. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.

«Менің ойымша, егер қазіргі даму қарқынын бәсеңдетпесек, жақын болашақта бәріміз қаза табуымыз мүмкін», — деді ол.

27 жастағы Коксонның бұрынғы бастығы, Anthropic басшысы Дарио Амодеи жақында AI дамуын бәсеңдетуге шақырды, дегенмен кейбіреулер бұның себептеріне күмән келтірді.

Бәсекелес екі AI фирмасының басшылары — OpenAI-ден Сэм Альтман және xAI-ден Илон Маск — Амодеидің салалық деңгейдегі баяулату мен реттеу, сондай-ақ AI модельдерінің дамуын тәуелсіз бақылау туралы ұсынысымен келісетінін айтты.

Амодеи сенбі күні жазған эссесінде технологияны дамыту мәселе емес, бірақ онымен байланысты тәуекелдер «ауыр» екенін және компаниялар мен үкіметтерге оларды шешу үшін уақыт берілуі керектігін жазды.

Anthropic-ке қосылмас бұрын OpenAI-де жұмыс істеген Коксон баяулату ұсынысын құптады, бірақ ол «халықаралық деңгейдегі жарысты» болдырмау үшін Қытаймен үйлестірілуі керек деді.

«Бұл компанияларда жұмыс істейтін адамдар реттеуді сұрағанда толығымен шыншыл, өйткені олар жарысқа тұзаққа түскенін сезінеді. Олар сол жарыстың нәтижелерінен қорқады», — деді ол Laura Kuenssberg-пен Sunday бағдарламасында.

Коксонның айтуынша, ең қиын сұрақ — AI апокалипсисі қандай болады деген сұрақ.

Амодеидің пікірлерінде айтылған тәуекелдердің бірі — интернетті басып алуы мүмкін суперкомпьютерге ұқсайтын боттар тобы.

Коксон бұл сценарий алты айдан бір жылға дейін шынайы болуы мүмкін деді.

Коксонның кетуіне жауап ретінде Anthropic өкілі BBC News-ке: «Біз AI үлкен пайда мен бұрын-соңды болмаған тәуекелдер әкелетінін әрқашан ашық айтып келдік», — деді.

«Осы тәуекелдерді шешу үшін біз саладағы ең мықты қорғаныс шараларымен модельдер жасауды жалғастырамыз», — деп қосты өкіл.

Компания AI модельдерінің қалай жұмыс істейтінін зерттеуде пионер болды, деді өкіл. Ол өз дамуынан туындайтын тәуекелдерді азайту жөніндегі негіздемені бірінші болып жариялады — сондай-ақ өз модельдерін «агрессивті» түрде сынап, тексеруге көмектесу және «AI сәйкессіздігі» оқиғаларын болдырмау үшін нәтижелерін жариялайды.

«Осы жұмыс сонымен қатар біз неге әлемнің қуатты модельдерді шығару қарқынын реттеу үшін заңды, тексеретін бірлескен жолды қабылдауынан пайда көретініне сенетініміздің себебі», — деді олар.

Коксон өзінің әріптестері қауіптің алдағы екі жылда келуі мүмкін деп қорқатынын айтты.

Ол AI фирмаларының қызметкерлері «өз өмірлерін не істеу керектігін жоспарлап, жұмыстарының әсері туралы ойлайтынын», ал кейбіреулері «AI-дың жылдам дамуынан туындаған тұрақсыздықтан қорқып, бір жерден жер сатып алуды қарастыратынын» айтты.

«Олар технологиямен жұмыс істегенде мұны күнделікті ойларында ұстайды».

Бірақ Коксон AI болашағына қатысты біраз оптимизм де білдірді, BBC-ге технологияны зерттейтін адамдар «ауруларды емдеу және барлығының өмірін жақсарту» сияқты нәрселердің «жақсы жағын көргісі келетінін» айтты.

Коксонның әлеуметтік желідегі жазбасынан кейін саладағы көптеген адамдар да алаңдаушылық білдірді, соның ішінде Anthropic ғалымы Эван Хубингер.

«Біз AI барлық адамды өлтіруі мүмкін екеніне шындап сенеміз! Меніңше, келесі онжылдықта бұл ықтималдық >10%», — деді Хубингер.

«AI-дың құдайы» деп аталатын компьютер ғалымы және Нобель сыйлығының лауреаты Джеффри Хинтон жұма күні BBC-ге AI-дың барлық адамды өлтіруінің 10% ықтималдығы «негізсіз емес» деді.

Сонымен қатар, AI қауіпсіздігі фирмасы Faculty-дің бас директоры Марк Уорнер BBC-ге AI-дың барлық адамды өлтіруіне «ықтималдық қою өте қиын» деді.

«Бірақ бұл адамдар айтқандарында өте шыншыл екенін мойындау маңызды», — деп қосты ол, AI-ға қатысты тәуекелдерді бірнеше AI фирмасының басшылары жылдар бойы көтеріп келе жатқанын атап өтті.

Anthropic-тің ақылы кеңесшісі болып табылатын бұрынғы премьер-министр Риши Сунак Sunday Times-та жазған мақаласында жалпы оптимист болғанына қарамастан, AI-дың адамзатқа төнетін қаупінен алаңдайтынын жазды.