Ұлыбританияның AI жөніндегі министрі Канишка Нараян ең озық AI жүйелерін жасайтын компаниялар қауіпсіздік шараларын күшейтуі керектігін мәлімдейді. Ол сондай-ақ Британияның киберқорғанысын нығайтатынын жариялайды. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.

Нараян шекаралық AI жүйелерін әзірлейтін компанияларды оның қауіпсіздігін қамтамасыз ету үшін көбірек күш салуға шақырады. Ол Британия технологиялық компанияларға өз модельдерін өздері бақылауға толықтай сүйене алмайтынын айтып, елге өзінің AI инфрақұрылымын көбірек құру қажеттігін дәлелдейді.

Нараянның батыс Лондондағы сөзі Энди Бернхэм AI мәселесін кабинет деңгейіндегі мандатқа айналдырғаннан кейінгі алғашқы сөзі болады. Бұл сөз ең қуатты AI модельдерін сынайтын Ұлыбританияның AI қауіпсіздік институтының бұрынғы бас ғылыми қызметкері Джеффри Ирвинг жау мемлекеттер шығарылмаған озық модельдерді ұрлауы мүмкін деп қауіп білдірген тұста айтылып отыр. AI тудыратын қауіптерге қатысты әлемдік алаңдаушылық күшейіп келе жатқанда, Ирвинг The Guardian-ға: «AI компанияларында қарсылас мемлекеттің модельдерді ұрлауына жол бермейтін қауіпсіздік жоқ», — деді.

Ол OpenAI-дегі жақында болған оқиғаны мысалға келтірді, онда компания киберқауіпсіздік зерттеушілері тарапынан «хакерлік шабуылға» ұшырады, олар «теориялық тұрғыдан қол жеткізе алатынымыздың ауқымы өте үлкен» екенін айтты. Шабуыл OpenAI жүйелерін сынайтын этикалық хакерлерді марапаттайтын бағдарлама аясында жүзеге асырылды. OpenAI өз модельдерінің ұрлануына қарсы шифрлау мен үздіксіз бақылауды қоса алғанда, бірнеше қорғаныс құралы бар екенін мәлімдейді.

OpenAI мен Google DeepMind-нің бұрынғы қызметкері, қазір AI қауіпсіздігі жөніндегі зерттеу ұйымын басқаратын Ирвинг адамзаттың суперинтеллектуалды AI-лардан жойылуының «50% ықтималдығы» бар екенін ескертіп, қазіргі уақытта жалғыз жауап — озық жүйелерді әзірлеуді мүмкіндігінше тез тоқтату екенін айтты. Ирвинг модельдердің алаңдатарлық қасиеттерінің даму қарқынынан қауіптенеді, бұл олардың өз әрекеттерін жасыру және адамдарды манипуляциялау сияқты қасиеттерде жоғары деңгейге жетуіне әкелуі мүмкін.

«Қазіргі жолмен қарағанда, біз 12 айдан аз уақыт ішінде суперинтеллектке қол жеткізуіміз мүмкін», — деді ол.

Нараянның сөзі Ұлыбританияның AI үшін ортақ қауіпсіздік стандарттарын үйлестіруге шақырған халықаралық үндеуге қосылуы мүмкін белгілері тұрғысынан мұқият бақыланады. Бұл үндеуге Финляндия, Франция, Германия, Австралия, Сингапур, БАӘ және Ирландия сияқты елдердің көшбасшылары қол қойды, бірақ Ұлыбритания мен АҚШ қосылмады, онда Дональд Трамп жетекші AI компаниялары «өздерін өздері бақылауы» керектігін айтты. Қатаң ережелерді талап ететін халықаралық альянс жақында үйлесімсіз озық AI-лардың жеке және мемлекеттік жүйелерге хакерлік шабуыл жасауы сияқты оқиғалар толқынынан кейін пайда болды.

Соңғы жағдайлардың бірінде Anthropic жұма күні өзінің Claude моделінің бір нұсқасын сынап жатқанда, AI полицияға хабарласып, қылмысты ашуға көмектесе алатынын мәлімдегенін ашты. Ол полиция департаментінің ақпараттық формасы мен ашылмаған кісі өлтіру туралы еске салынған бетке кездесті. Ол былай деп жазды: «Менде осы іске қатысты ақпарат болуы мүмкін. Мен сол уақыт аралығында [бетте көрсетілген көше] айналасында сипаттамаға сәйкес келетін біреуді көргенімді еске аламын. Егер бұл ақпарат маңызды болса, маған хабарласыңыз.» Claude-қа ешқашан жүйеге кірмеу, тіркелгі жасамау, жеке деректерді енгізбеу, сатып алу жасамау немесе деструктивті ештеңе жібермеу туралы нұсқау берілгенімен, оның нұсқаулары форманы жіберуді болдырмады.

Sunday Times-тың мәліметінше, өткен аптада MI5, MI6 және GCHQ барлау қызметтерінің басшылары кабинетке AI-дың ұлттық қауіпсіздікке төнетін қаупі туралы баяндама жасады. Барлау басшыларының ескертуін кейбіреулер Бернхэмді AI қауіпсіздігі мәселесін неғұрлым мықтап ұстауға шақыру деп қарайды.

Премьер-министр өткен айда БҰҰ-ға Британия келесі жылы G20 төрағалығын пайдаланып, AI қауіпсіздігі бойынша «бірыңғай жаһандық принциптер мен стандарттар» туралы келісімді қолдайтынын айтты. Бірақ қауіпсіздік сарапшылары ең ауыр тәуекелдерді болдырмау үшін тезірек әрекет етуге шақырады, олар маңызды инфрақұрылымға кибершабуыл жасау үшін озық AI-ларды пайдаланудан бастап жаңа биологиялық қарулар жасауға дейінгі аралықты қамтиды.

Сонымен қатар, AI инфрақұрылымын басқаратын және OpenAI акционері болып табылатын Microsoft компаниясының төрағасы және бас директоры Сатья Наделла сенбі күні AI модельдері «апаттық тежегішпен» жасалуы керектігін айтты. Ол адамдар озық AI модельдері ішкі қауіп төндіреді деген принциптен бастауы керектігін айтты.

«Біз Супер Интеллектіні бір-біріне салынған қара жәшіктер жиынтығы ретінде қарап, оның ұсыныстарын, жауаптарын және әрекеттерін жай ғана қабылдай немесе қабылдамай алмаймыз», — деп жазды ол. «Біз мінез-құлқын бақылай алатын, шектеулерін сынай алатын және әрекеттерін әрқашан ұстай алатын оқшауланған жүйелерді құруымыз керек.»