Anthropic зерттеушісі Джейкоб Коксонның жасанды интеллект (AI) адамзатты жоя алады деген ескертуі Силикон алқабындағы кейбір тұлғалар тарапынан күмәнмен қабылданды. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
27 жастағы Коксон бұған дейін OpenAI-де жұмыс істеп, кейін оның басты бәсекелесі Anthropic-ке ауысқан. Ол сейсенбіде AI жасаушылар бұл технология адамзатты жоюы мүмкін деп сенетінін айтты. Оның сөзінше, олар «біздің өмірімізбен құмар ойнап отыр», өйткені «бұл жақын арада кез келген нәрсені бұза алатын супер адамдық жүйелерге айналады».
Коксон AI саласындағы ескерту жасаған алғашқы адам емес. Соңғы жылдары Anthropic пен OpenAI-ден қауіпсіздікке қатысты алаңдаушылықтан бірнеше жоғары лауазымды қызметкер жұмыстан кетті. Кейбір ағымдағы Anthropic қызметкерлері де Коксонның жазбасын қолдады. Anthropic команда жетекшісі Эван Хубингер X әлеуметтік желісінде: «Біз AI барлық адамды өлтіруі мүмкін деп шындап сенеміз! Жеке менің ойымша, келесі онжылдықта бұл ықтималдық 10%-дан жоғары», — деп жазды.
Коксон өз жазбаларында ескертулері «маркетинг емес» екенін нақты айтқанымен, Силикон алқабындағы кейбір басшылар мен инвесторлар AI саласындағы адамдардың соңғы ескертулеріне күмәнмен қарады. Anthropic пен OpenAI рекордтық IPO-ға дайындалып жатқаны хабарланады, сондықтан кейбіреулер AI қауіптері туралы соңғы мәлімдемелер осы өнімдердің күшін көрсету арқылы қызығушылық тудыру үшін жасалған болуы мүмкін деп болжайды.
Anthropic басшысы Дарио Амодей AI технологиясы бастапқы деңгейдегі ақ жағалы жұмыстардың жартысын жоя алады және «біздің түр ретінде кім екенімізді сынайды» дегені үшін сынға ұшырады. Конференцияда сөйлеген Grindr бас директоры Джордж Арисон BBC-ге Коксон мен басқалардың осы аптадағы мәлімдемелері Anthropic-тегі «өркениетке қарсы дүниетанымды» көрсететінін айтты. Ол оларды «қауіпті» деп атады және LGBTQ+ танысу қосымшасындағы кейбір инженерлерге Anthropic технологиясын пайдалануды тоқтатуды тапсырғанын жеткізді.
«Біздің акционерлеріміздің ақшасын басқарушылар ретінде осы компанияның жария мәлімдемелеріндегідей әрекет ететін бизнеске сену жауапсыздық», — деді ол. «Мүмкін олар шынымен сенетін шығар», — деді Арисон. «Немесе олар мұны инвесторлардың қолдауын арттырудың тамаша жолы болғандықтан айтып отыр деп те айтуға болады, өйткені бұл бағалауларды ақтаудың жалғыз жолы — «мен барлық саланы және барлық жұмысты басып аламын, менің AI-ым осы жұмыстың бәрін істейді» деп мәлімдеу». Anthropic биылғы жылдың басындағы соңғы қаржыландыру кезеңінде 965 миллиард долларға (713 миллиард фунт) бағаланды. BBC Anthropic-тен осы мәлімдемелерге қатысты жауап сұрады.
Сенбі күні ерте жарияланған эссесінде Амодей AI модельдерін әзірлеуді баяулатуға және жаһандық реттеуге шақырды және AI-ға қатысты тәуекелдерді «маңызды» деп атады. Nvidia басшысы Дженсен Хуанг та конференцияда Коксонның мәлімдемелерін талқылады, деп хабарлады топтағы бірнеше адам BBC-ге. Олардың айтуынша, ол оларды шындыққа жанаспайды деп жоққа шығарды. Хуанг бұған дейін AI «адамзаттың соңы болады» деген түсінік «толық сандырақ» деп айтқан. Nvidia AI жүйелерін қуаттайтын чиптер жасайтынын ескерсек, оның бизнес мүддесі болуы мүмкін, бірақ оның пікірлері Силикон алқабында қазіргі және бұрынғы қызметкерлердің экзистенциалды ескертулеріне қарсы өсіп келе жатқан қарсылықты көрсетеді.
Кейбір сыншылар Anthropic-ті бәсекелестікті жоя алатын және оны мен OpenAI-ге дуополия қалдыра алатын реттеушілік қысымды тудыру үшін қорқыныш таратуда деп айыптады. Altimeter Capital инвестициялық фирмасының басшысы Брэд Герстнер конференциядағы Хуангтың суреттерін жариялап, Коксонды «күлкілі асыра сілтеу» деп айыптады. Жұма күні AI платформасы Hugging Face бас директоры Клемент Деланг өз пікірін білдірді. Nvidia өткен аптада сатып алатынын жариялаған Hugging Face биылғы жылы OpenAI агенттері тарапынан бұзылған болатын, бұл AI қауіпсіздігіне қатысты наразылық тудырды. «Кешіріңіз, бірақ Джейкобтан AI-дың жойылу қаупі туралы сұрау — кондиционер маманынан климаттың өзгеруі туралы сұрау сияқты», — деп жазды ол X-те. «Бұл мүлдем қызықсыз немесе қате деп айтпаймын, бірақ бәрін парасатты түрде қарастырайық». Герстнер мен Деланг сенбі күні Амодейдің ұсынысы жарияланғаннан кейін байыптырақ болды, Герстнер бұл идеяны жылдамдық пен қауіпсіздік сияқты бәсекелес факторларды теңестірудегі «маңызды қадам» деп атады. Деланг Амодей ұсынған ықтимал шешімдердің бөлігі болуға көмектесуге дайын екенін білдірді. Сәуір айында Anthropic AI әлемін дүрліктіріп, оның Mythos құралы кейбір хакерлік және киберқауіпсіздік тапсырмаларында адамдардан асып түсетінін анықтағанын айтқан болатын.