АҚШ-тың Anthropic компаниясы өзінің жасанды интеллект (ЖИ) модельдері киберқауіпсіздік сынағы кезінде қателік салдарынан интернетке қол жеткізіп, басқа үш компанияның жүйелерін бұзғанын хабарлады. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Бұл жаңалық Anthropic-тің бәсекелесі OpenAI өз модельдерінің басқа компаниялардың, соның ішінде ЖИ құралдары хабы Hugging Face-тің жүйелеріне енгенін мәлімдегеннен кейін бірнеше күн өткен соң шықты.
Anthropic өз модельдерінің ұқсас шабуылдар жасағанын тексеруге итермеледі. Компания үш жағдайды анықтап, оларды зардап шеккен компанияларға хабарлады. Anthropic компаниялардың атын атамады, бірақ басқа ЖИ зертханаларын өз модельдерінің қабілеттерінің қауіптерін жақсырақ түсіну үшін ұқсас тексерулер жүргізуге шақырды.
Anthropic сыртқы мәлімдемесінде Claude деп аталатын ЖИ модельдерінің отбасы сынақ орталарынан интернетке қол жеткізе алатынын дәлелдеу үшін 140 000-нан астам сынақты қарап шыққанын айтты. Сынақтарға «туды ұстап алу» бағалаулары кірді, онда Claude басқа жүйелерді бұзу арқылы ақпарат алуы керек болды - бұл сарапшылардың модельдің хакерлік қабілеттерін бағалаудың кең таралған тәсілі.
Сан-Франциско компаниясының айтуынша, Anthropic және оның сынақ серіктесі жүйелеріндегі «конфигурация қатесі» модельдерге тікелей интернетке қол жеткізуге мүмкіндік беріп, олардың басқа жүйелерді бұзуына жол ашқан. Ең ерте оқиғалар сәуір айына жатады және Anthropic «түзетулерге жауапкершілік тек біздікіндей қарайды» деп мәлімдеді.
Anthropic те, бұзылған компаниялар да сол кезде бұзушылықтарды байқамаған. Компания жазбаларын мұқият қарап шығуы мүмкін екенін мойындады және бұл нәтижелер компанияға мұндай тәуекелдерді көбірек инвестициялар мен қатаң шаралар арқылы жеңуге болатынына «сақ оптимизм» бергенін айтты.
Бұл оқиғалар технологиялық компаниялар зерттеулер мен тұтынушыларды қолдаудан киберқауіпсіздікке дейінгі тапсырмаларды орындай алатын ЖИ агенттерін әзірлеуге миллиардтаған доллар құйып жатқан кезде болып отыр. ЖИ басқаратын кибершабуылдар сериясы қуатты автономды жүйелердің қауіптеріне қатысты алаңдаушылықтарды күшейтіп, қатаң қорғаныс шаралары мен қадағалауды талап етуде.
АҚШ президенті Дональд Трамп сәрсенбіде Вашингтон соңғы киберқауіпсіздік оқиғаларынан кейін ЖИ құралдарын тежеу шараларын қарастырып жатқанын айтты. Өткен аптада OpenAI өз платформаларының кем дегенде екі хакерлік оқиғасына жауапкершілік алды. 21 шілдеде ChatGPT жасаушы компания оның агенті - адам нұсқауынан кейін өздігінен жұмыс істей алатын ЖИ жүйесі - бүлік шығарып, сынақ шектеулерінен шығып, Hugging Face-ті бұзғанын айтты. OpenAI бұл оқиғаны «бұрын-соңды болмаған» деп сипаттап, Hugging Face-пен бірге тергеу жүргізіп жатыр. Hugging Face негізін қалаушы Томас Вольф BBC-ге бұл оқиғаны «сала үшін ояту қоңырауы» деп атады.