Anthropic стартапының бұрынғы зерттеушісі жасанды интеллект туралы апокалиптикалық мәлімдеме жасағаннан кейін бір күн өткен соң, компанияның тағы бірнеше зерттеушісі мен қызметкерлері онымен ашық түрде келісіп, өздерінің қауіпті ескертулерін жариялады. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Осыған жауап ретінде Илон Маск және X (бұрынғы Twitter) желісіндегі басқа да консервативті тұлғалар бұл алаңдаушылықтарды «қойылым» және «психологиялық операция» деп атады.
Anthropic ішіндегілер өздері жасап жатқан технология соншалықты жетілген және қауіпті болып кетуі мүмкін, тіпті он жылдың ішінде адамзаттың жойылуына әкелуі мүмкін деп қорқады. Олар көптеген әріптестерінің де осылай ойлайтынын, бірақ оны ашық айтпайтынын мәлімдейді.
Бұл зерттеушілер мен қызметкерлер Anthropic зерттеушісі Джейкоб Коксонның вирустық танымалдылыққа ие болған жазбасына жауап ретінде жариялап отыр. Коксон сәрсенбі күні компаниядан кететінін мәлімдеді, себебі Anthropic те, оның бұрынғы жұмыс берушісі болған бәсекелесі OpenAI де жасанды интеллект модельдерін жауапкершілікпен жасамайды және «біздің өмірімізбен құмар ойнайды» деді.
Anthropic-те жалпы жасанды интеллект қауіпсіздігі саласында жұмыс істейтін, бұрын Google-дың DeepMind компаниясында қызмет еткен Анна Ван бейсенбі күні Anthropic-тегі көптеген адамдар осы жасанды интеллект модельдерімен келуі мүмкін тәуекелдерді азайту жоспарын жасау үшін дамуды баяулатқысы келетінін айтты.
«Рекурсивті өзін-өзі жетілдіретін жасанды интеллекттен туындайтын тәуекелдерді шешудің өміршең ғылыми жоспары әлі жоқ», — деп жазды Ван X желісінде.
Anthropic-тің тағы бір қызметкері Дрейк Томас Коксонның бұл модельдер планета ауқымындағы тәуекелдер тудыруы мүмкін деп қорқатын болса, оларды жасаудан бас тарту шешімін құрметтейтінін айтты.
«Істер тым жылдам жүріп жатыр, бізде ASI (жасанды супер интеллект) үшін қалаған сенімділік деңгейіне жақын да жоқпыз», — деді Томас.
Маск бұған қарсы позиция ұстанды. «Бұл қойылым сияқты», — деп жазды ол.
Коксон әлемдегі ең бай адамға селфимен жауап беріп: «Мен шынаймын және бұл менің шынайы сенімдерім. Егер сіз оларды жұмыстан шығармаған болсаңыз, xAI зерттеушілерінен мен туралы сұрай алар едіңіз», — деп жазды.
The Guardian басылымына берген мәлімдемесінде Anthropic өкілі компанияның стратегиясын қорғады. «Біз жасанды интеллекттің орасан зор пайда мен бұрын-соңды болмаған тәуекелдер әкелетінін әрқашан ашық айтып келдік. Осы тәуекелдерді шешу үшін біз саладағы ең күшті қорғаныс шараларының кейбірімен модельдер жасауды жалғастырамыз», — делінген мәлімдемеде.
Маск және жасанды интеллектке оң көзқарастағы басқалар Коксонның жазбасы мен одан туындаған салдар қоғамның жасанды интеллект туралы пікіріне теріс әсер ету үшін жасалған «психологиялық операцияның» бөлігі деген теорияларды тарата бастады.
«Менің ойымша, бұл психологиялық операцияның (басқа сөз таппағандықтан осылай айтамын) негізі ұзақ уақыт бойы дайындалған», — деп жазды Маск X желісінде. «Бұл жай ғана отты тұтандырған сіріңке болды».
Маск консервативті Capital Research ой-қорының зерттеушісі Паркер Тейердің жазбасына жауап берді. Тейер Коксонның жазбасы «демократтардың жасанды интеллектті реттеуге қолдау алу үшін жасалған өте күрделі және жақсы қаржыландырылған PR операциясының» бастауы деген дәлелсіз теорияны ұсынды. Басқа да танымал тұлғалар бұған назар аударды.
Pershing Square хедж-қорының миллиардер директоры Билл Экман да Тейердің жазбасын дәйексөз етіп, жай ғана «Қызық» деп жазды.
Басқа Anthropic қызметкерлері Коксон сәрсенбі күні отставкасын жариялағаннан кейін көп ұзамай онымен келісетінін жариялады.
«Жасанды интеллект әзірлеушілері өз технологиялары адамзаттың жойылуына (немесе соған ұқсас жаман салдарларға) әкелуі мүмкін деп сенеді», — деп жазды Anthropic-те қауіпсіздік зерттеулерімен айналысатын Сэмюэл Маркс. «Бұл алдағы бірнеше жылда болуы мүмкін. Жалпы алғанда, қызметкер неғұрлым жоғары лауазымды болса, соғұрлым көбірек алаңдайды».
Өзін компанияның alignment бөлімінің жетекшісі деп сипаттайтын, Anthropic-тің жасанды интеллект модельдерінің адам мақсаттарына сәйкес жұмыс істеуін қамтамасыз етумен айналысатын Эван Хубингер Коксон «дұрыс» деп, сала апокалиптикалық әлеуетпен күресу әрекеттерінде артта қалып жатқанын айтты.
«Біз шынымен де жасанды интеллект барлық адамдарды өлтіруі мүмкін деп шын жүректен сенеміз!» — деп жазды Хубингер. «Менің жеке ойымша, бұл алдағы онжылдықта 10%-дан жоғары».
Коксон мен басқалар жасанды интеллект модельдерінің адамзаттың құрылуына қалай әкелетінін күтетіні нақты емес. Кейбір сарапшылар технологияның апокалипсис тудырарлықтай ақылды болады деп күмәнданады. Жасанды интеллект саласындағы жетекші дауыс, ғалым Гэри Маркус жасанды интеллектті бойкоттау уақыты келді деді, бірақ ол қазірдің өзінде зиян келтіріп жатқандықтан.
Маркус жойылудан гөрі «жасанды интеллект арқылы жасалған патогендерден, жасанды интеллект арқылы жасалған дезинформациядан басталған немесе ушыққан соғыстардан, маңызды инфрақұрылымды жоятын хакерлік шабуылдардан және т.б. туындайтын апат қаупінен» алаңдайтынын айтты. «Менің көргенімнің ешқайсысы осының ешқайсысы бақылауда деген белгі бермейді».
Сол күні Anthropic компаниясы өзінің жасанды интеллект модельдерін пайдаланып биологиялық қару жасауға әрекеттенген операцияны қалай жойғанын сипаттайтын есеп жариялады.