Жасанды интеллект (AI) саласында еңбек ететін ірі компаниялардың барлық қызметкері технология адамзаттың қырылуына әкелуі мүмкін деп ойламайды. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
OpenAI, Meta және DeepMind сияқты компанияларда жұмыс істеген бірнеше адам BBC-мен хат алмасу және әңгімелесу барысында AI-дың бақылаусыз дамуы адамдарды жаппай өлтіретін құралдарға әкеледі деген пікірге күмән білдірді. Олардың кейбірі «Lol», «Haaaaaa» және «Bringing the luls» деген реакциялармен жауап берген.
Бұл қорқыныштар ондаған жылдарға созылғанымен, өткен аптада Anthropic компаниясының бұрынғы қызметкері Джейкоб Коксонның мәлімдемелері кең таралып, саладағы басқа да адамдар оны қолдап, дамуды баяулатуға шақырды. Болашақта AI құралы немесе агент адамдарға қауіп төндіруі мүмкін деген идеяны Anthropic, OpenAI, DeepMind қызметкерлері және xAI стартапының негізін қалаушы Илон Маск интернетте қолдады.
BBC-мен сөйлескен барлық қызметкерлер баспасөзге сөйлеуге рұқсаттары болмағандықтан, аты-жөнін жасырын ұстауды шарт етті. Олардың кім екені BBC-ге белгілі.
OpenAI-да бірге жұмыс істеген кезде Коксонды білетін бұрынғы қызметкер: «Менің алғашқы ойым — „Сол жігіт пе?“» — деді. Қазір басқа AI компаниясында жұмыс істейтін ол адамзат өміріне қауіп төніп тұр деген тұжырымды қорғау үшін жеткілікті дәлел келтірілмегеніне таңырқағанын жеткізді. Оның айтуынша, бұл мәлімдемелер «әрқашан бұлыңғыр», ал нақты көрінгенде логикалық секірістерге немесе гипотетикалық жағдайларға сүйенеді.
Коксон қазіргі уақытта болмайтын AI модельдеріне негізделген AI агенттер тобы биологиялық қару жасап, оны бағыттауы мүмкін деп мәлімдеді, бірақ оның қалай жүзеге асатынын нақтыламады.
DeepMind-да жеті жыл жұмыс істегеннен кейін осы жазда Sampura Research атты AI қауіпсіздігі зерттеу фирмасын құрған Ришуб Джайн BBC-ге AI саласындағы көптеген адамдардың жаңа қорқыныштарға қатысты үні «әлдеқайда әзіл-оспақ» болғанын айтты. «Адамдар бұл идея туралы көп жылдар бойы айтып келеді, сондықтан AI компанияларындағылар өткен аптада ғана оянып, „Ойбай, AI бәрін өлтіреді!“ деп ойлаған жоқ», — деді Джайн. «Егер бұл мүлдем жаңа болса, үн басқаша болар еді».
Meta компаниясының деректер ғалымы Колин Фрейзер өткен аптада әлеуметтік желіде AI модельдерінің адам өліміне әкелетін мақсатты ұстануы сөзсіз деген нақты дәлел жоқ екенін жазды. Фрейзердің түсіндірмесі техникалық және нақты болғанымен, ол қорытындылау үшін жеңіл үн қосты: «LLM [үлкен тілдік модельдер] адамзатты құртпайды, өйткені оларда ондай қаһар жоқ». «That dog in them» деген сөз тіркесі — қаһарлы ұмтылысты білдіретін кең таралған сленг.
Әзілдерге қарамастан, AI қызметкерлері мен зерттеушілер өздері әзірлеп жатқан технологияның нақты, дереу қауіптері туралы алаңдаушылық білдірді. Джайн: «Сарапшылар арасындағы әңгіме әлдеқайда нюансты, бірақ барлығы дерлік әртүрлі қауіптерді ескеру және азайту маңызды деп келіседі», — деді. Мұндай қауіптерге пайдаланушылар мен хакерлердің AI құралының қорғаныс шектеулерін бұзуына жол бермеу кіреді. Сондай-ақ AI құралдарының әскери салада кеңінен қолданылуына қатысты этикалық алаңдаушылық артып келеді.
Бұл мәселелер OpenAI белгілі бір жаңа AI модельдерінің бақылауын жоғалтып, олар қауіпсіздік сынағы кезінде жолдан шығып, Hugging Face стартапын бұзғаннан кейін AI ортасында жаңа өзектілікке ие болды. Джайн AI ортасында «нақты жақын мерзімді зияндарды» жақсырақ түсіну керектігі туралы келісім күшейгенін айтты. Тіпті AI қауіпсіздігі зерттеу ұйымдарының бағалаушыларын ірі AI зертханаларына тарту керек деген келісім де өсіп келеді. Anthropic басшысы Дарио Амодеи мен OpenAI басшысы Сэм Альтман екеуі де осыны істеуге ниетті екенін айтқан. Жұма күні AI саласында жұмыс істейтін 100-ден астам адам сыртқы бағалаушылар «мағыналы түрде тәуелсіз» болуы керектігін талап ететін хатқа қол қойды.