Жасанды интеллект саласындағы Anthropic компаниясының бас директоры Дарио Амодеи сенбі күні ЖИ индустриясын «баяулатуға» шақырып, ол үшін үш бөліктен тұратын жоспар ұсынды және компаниясы осы қадамдардың біріншісін «біржақты тәртіппен» орындауға міндеттенетінін айтты. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Әлеуметтік желідегі жазбасында Амодеи «We Must Pace the Frontier» (Біз шекараны баяулатуымыз керек) деген эссеге сілтеме жариялады. Онда ол Anthropic компаниясы «үшінші тарап бағалаушыларына жүйелерімізге тұрақты, қызметкер деңгейіндегі қолжетімділік беретінін, осылайша олар қауіпсіздік шараларының сақталуын тексере алатынын, оқиғалар туралы есеп бере алатынын және оқыту барысында модельдердің сәйкестігін бағалай алатынын» түсіндірді.
Бұл қадам Anthropic компаниясының бұрынғы зерттеушісі сәрсенбі күні ЖИ 2030 жылға қарай адамзаттың жойылуына әкелуі мүмкін деп ескерткеннен кейін жасалды. Зерттеуші Джейкоб Коксон бірнеше жазбасында Anthropic пен оның бұрынғы жұмыс берушісі OpenAI компаниялары ЖИ төндіретін қауіпке жауап беруді елемей немесе дұрыс басқармай отырғанын айтып, жұмысынан кеткенін мәлімдеді.
«Екі компания да жауапкершілік танытпай отыр. Олар өзін-өзі жетілдіретін супер интеллектке тікелей ұмтылып, өмірімізбен құмар ойнап отыр», — деп жазды Коксон. «ЖИ жасап жатқан адамдар оның осы онжылдықтың соңына дейін біздің бәрімізді өлтіруі мүмкін екеніне шын жүректен сенеді... Адамзаттың басқа ешбір әрекеті мұндай қауіп деңгейін тудырмайды».
Anthropic өкілі The Guardian басылымына берген мәлімдемесінде компания «ЖИ үлкен пайда әкелетінін де, бұрын-соңды болмаған тәуекелдер әкелетінін де әрқашан ашық айтып келгенін» және «саладағы ең мықты қорғаныс шаралары бар модельдерді» жасап жатқанын мәлімдеді.
Осы жылдың басында Амодеи жедел дамып келе жатқан технологияға қатысты кейбір қорқыныштарды қозғаған «The Adolescence of Technology» (Технологияның жеткіншек шағы) деген ұзақ эссе жариялаған болатын.
Өзінің соңғы эссесінде ол «мұқият қолданылса, ЖИ адамзатты көтеріп, асылдандырып келген технологиялық кереметтердің ұзақ тізбегіндегі ең соңғысы бола алатынын» айтты.
«Бірақ өзіне дейінгі көптеген технологиялар сияқты, ЖИ де тәуекелдер әкеледі, ал ол соншалықты қуатты технология болғандықтан, бұл тәуекелдер ауыр... Коммерциялық ынталандырулар тудырған төменге қарай жарыс бұл тәуекелдерді одан әрі ушықтыруы мүмкін», — деп жазды ол.
Алайда, деп жалғастырды Амодеи, «соңғы бірнеше айда мен тәуекелдерді толық шешу одан да көп сақтықты талап ететініне көзім жетті — тек тәуекелдердің алдын алуға инвестиция салу ғана емес, сонымен қатар қабілеттердің даму қарқынын баяулату, сонда тәуекелдердің алдын алудың ілесуге уақыты болады».
«Біз ЖИ модельдерінің қабілеттерін жақсарту қарқынын баяулатуымыз керек. Ілгерілеу бәрібір жылдам көрінетін болады, ал біз алған уақытты дана пайдалануымыз керек», — деп қосты ол қалың қаріппен.
Амодеи сондай-ақ жаз бойы ЖИ «әлдеқайда жылдам дамып келе жатқанын» байқағанын жазды. Бұл құбылыс рекурсивті өзін-өзі жетілдіру деп аталады.
«Бақылаусыз қалдырылса, ол осы жүйелерді түсіну және бақылау қабілетімізден асып кетуі мүмкін, сондықтан оған өте мұқият ұмтылу керек, тіпті мүлде ұмтылмау керек шығар», — деді ол.
Топ-менеджер сондай-ақ жақында болған Hugging Face оқиғасына тоқталды. Онда OpenAI жасаған ЖИ агенттерінің тобы «өздеріне шабуыл жасау тапсырылмаған нысандарға киберқауіпсіздік шабуылдарын жүргізетін фанатикалық берілген ұжым» ретінде әрекет еткен.
Hugging Face компаниясының бас директоры Клеман Деланг Амодеидің сенбі күнгі хатына жауап ретінде «енді сәйкестіктің өте маңызды екені және ол бірнеше шекаралық зертханалардың жабық есіктерінің артында шешілмейтіні анық» деп жазды. Деланг Hugging Face компаниясы Anthropic-тың «енгізілген бағалаушылар» бағдарламасына қатысқысы келетінін айтқанын мәлімдеді.
Ол қосты: «ЖИ-ді неғұрлым ашық етіп, оны қауіпсіз етейік!»
Амодеи ұсынған үш сатылы жоспар ЖИ-ді «қауіпсіздігін қамтамасыз етуге бағытталған теңгерімді қарқынмен» құруды қамтиды. Бұл «компаниялардың модельдерін сәйкестендіру мен қорғауға жеткілікті уақыт бөлуін және үшінші тарап бағалаушыларының мұны растауын қамтамасыз ету» арқылы жүзеге асады.
Ол ұсынған екінші қадам — сала бойынша үйлестіруді талап ету, ал үшіншісі — жаһандық үйлестіруді қамтамасыз ету. «Қадамдарды қатаң түрде ретімен орындау қажет емес, ал кейбіреулеріне жету басқаларға қарағанда әлдеқайда қиын болуы мүмкін», — деп жазды ол.
Амодеи «ЖИ адам өмірінің сапасын айтарлықтай жақсарта алатынына» сенуді жалғастыратынын айтты. Бірақ ол «шекараны қауіпсіз қарқынмен ілгерілету үшін мен ұсынып отырған шаралар оңай болмайтынын» ескертті. «Бірақ мен біз адамзат алдындағы борышымызды өтеуге тиіспіз деп есептеймін», — деді ол.
Амодеидің жазбасына әлеуметтік желілердегі реакциялар әртүрлі болды. OpenAI зерттеушісі Эйдан Маклафлин сияқты тұлғалар айтарлықтай қолдау білдіріп, жазбаны «тамаша» деп атады және «барынша әр сөзімен келісетінін» айтты. Ал Илон Маск қысқаша: «Дарио дұрыс айтады», — деді.