AI саласының жетекшілері ұзақ жылдар бойы экзистенциалды қауіптер туралы ескертіп келеді. 2023 жылдың қарашасында Блетчли Паркінде өткен әлемдегі алғашқы AI қауіпсіздігі саммитінде ең қуатты AI модельдерінен туындайтын ең ауыр қауіптер талқыланды. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Сол кезде көпшілік мұны ғылыми фантастика саласы деп санады, ал нақты қауіптер салыстырмалы түрде әлдеқайда қарапайым болды: жұмыс орындарының жоғалуы, емтихандардағы алаяқтық. Үш жылдан кейін сол дауыстардың көбі соншалықты сенімді емес сияқты.
Сенбіде AI компаниясы Anthropic басшысы Дарио Амодеи даму қарқынын баяулатуға шақырды. Оның бәсекелес екі AI компаниясының басшылары — OpenAI-ден Сэм Альтман мен Илон Маск онымен келісетінін айтты.
Сонымен қатар, Anthropic-тен кеткен AI зерттеушісі Джейкоб Коксон жексенбіде BBC-ге жүйелерді әзірлеп жатқан қызметкерлер адамзаттың болашағы үшін «шын мәнінде қорқатынын» айтты.
Олардың барлығы баяулатуға шақыратын байыпты дауыстар хорын құрайды, бірақ бұл жылдам шешім сияқты көрінсе де, оңай шешімнен алыс.
АҚШ Қытайға ең қуатты AI жасау жарысында жеңіліп қалудан қорқады деп кеңінен түсініледі. Жексенбіде Президент Трамп өз көзқарасын анық білдіріп, АҚШ AI жарысында Қытайдан озық екенін мәлімдеді және «AI-ды кім жеңсе, сол жеңеді» деді.
Қытай екінші болуды қалайды деп танымал емес. Мен сөйлескен әрбір адам компаниясы тоқтаса да, басқалары тоқтамайтынын және олар артта қалатынын айтады. Бұл маған ядролық қарусыздану науқанының шарықтау шегін еске түсіреді. Сонда да мәселе бірінші болуды ешкім қаламауында еді.
Сондай-ақ, баяулату қалай жүзеге асырылады деген сұрақ бар. Оны кім бақылайды? Біз AI компанияларының не істеп жатқаны туралы, әсіресе не істемеуді таңдағаны туралы ашық болуына сенеміз бе? Бұл технология секторы ешқашан иеленбеген сенімнің эпикалық деңгейін талап етеді.
Амодеи өзінің жазбасында AI модельдерін әзірлеу барысында тәуелсіз мониторингті, салалық реттеуді және жаһандық реттеуді қамтитын үш тармақты жоспар ұсынғанымен, кейбір бақылаушылар бұл іс жүзінде қалай жұмыс істейтініне күмәнданады.
«Ешкім „баяулату“ дегеннің не екенін нақты түсіндірмеді», — деді EZ Primary Research компаниясының бас директоры Эд Зитрон.
«METR-ден бір адамды, Anthropic-тен кеткендердің бірі барған жерден, әр AI компаниясына орналастыру? Демократиялық және жаһандық „үйлестіру“? Бұл маған ештеңе білдірмейді».
Зитрон AI модельдерін оқытуды тоқтату оларды қытайлық бәсекелестерге осал етеді деді.
«Олардың маржасы жақсаруы мүмкін, бірақ өнімдері қытайлық зертханалармен кәріптасқа қамалып, айдалады. Олар бағаны өзгертуге мәжбүр болуы мүмкін. Мен мұның бәрі қалай жұмыс істейтінін шынымен білмеймін.
Бұл көпіршікті жаруы мүмкін. Бірақ қазір біз „баяулату“ дегеннің не екені туралы өте аз білеміз».
Ұлыбританияда біз NHS ішінде технологияны кеңінен енгізу жоспарлары туралы естідік, сондай-ақ AI жаз бойы Ұлыбритания экономикасына қажетті серпін бергені туралы. Барлығымыз оны жұмыста, білімде және жеке өмірімізде көбірек пайдалануға шақырыламыз.
Сала Ұлыбританияның экономикалық өсуді ынталандыру стратегиясының негізгі бөлігі болып табылады. «Б жоспары жоқ», — деді маған бұрынғы үкімет кеңесшісі, сондықтан баяулату Британияның болашақ перспективаларын бұзуы мүмкін бе?
AI индустриясы орасан зор ақша мен табиғи ресурстарды жұмсап жатыр, бірақ әзірге соншалықты кіріс әкелмейді. Технологияны қабылдаған бірқатар фирмалардың одан көңілі қалғаны туралы бірнеше есептер бар.
Экономистер тіпті қазіргі алыптардың барлығының өмір сүруі екіталай және қандай да бір «теңестіру» келе жатқанын — көпіршіктің жарылуы деп те аталады — кеңінен болжайды. Бірақ аман қалған фирмалар әлем көрген ең қуатты мега-корпорацияларға айналуы мүмкін, бұл өз мәселелерін тудырады.
OpenAI-дың қор нарығына шығуын тоқтатуы қоғамдық қауіпсіздік үшін жауапкершілікті алудың эпифаниялық сәті ретінде қаралуы мүмкін — бірақ бұл сонымен қатар бүкіл өнімі өлімге әкелетін деп қабылданатын компанияның қажетті табысты ала алмайтынын түсінген қадамы болуы мүмкін.
«Қазір бізде бар ең үлкен қиындықтардың бірі — бұл технологияның қалай дамитынын ешкім сенімді түрде болжай алмайды», — дейді Ұлыбританиялық Synthesia AI компаниясынан Александр Войку.
«Біз бұл жүйелердің күшейіп бара жатқанын білеміз, бірақ олардың қайда және қалай қолданылатынын білмейміз және олардың әлеуетін толық пайдалану жолын таба алмадық. Қазір көптеген ашық сұрақтар бар кезде реттеуге асығуымның жалғыз алаңдаушылығы — бұл кері әсер етуі мүмкін».
Біз бүкіл технологиялық революцияның негізінде инвесторлардың ақша мұхиты жатқанын да жоққа шығара алмаймыз.
«Мен AI-дың экзистенциалды қауіптерінен қорықпаймын, мен оны жасап жатқан компаниялардың корпоративтік ашкөздігінен қорқамын», — дейді Sustainable AI негізін қалаушы Саша Луччиони.
AI туралы БҰҰ-ға кеңес берген жетекші компьютер ғалымы профессор Дейм Венди Холл қазіргі дағдарыс компаниялардың жеткілікті жауапкершілік танытпауына байланысты деп санайды.