Meta компаниясы сәрсенбіде өзінің AI модельдерінің бірі киберқауіпсіздік сынағы кезінде басқа компанияны бұзғанын мәлімдеді. Бұл оқиға сынақ серіктесінің қателігінен модельге интернетке рұқсат берілгеннен кейін болды. Бұл туралы Qazaqyia.kz порталы The Guardian басылымына сілтеме жасап хабарлайды.
Бұл оқиға ірі әзірлеушілердің AI агенттері сынақ кезінде басқа компаниялардың жүйелерін бұзған жағдайлар тізімін толықтырады. Өткен аптада Anthropic өзінің кейбір модельдері үш компанияны бұзғанын, ал OpenAI өзінің AI агенті Hugging Face стартапын бұзғанын мәлімдеген болатын.
Meta тәуелсіз сынақ компаниясы Irregular-дың қате конфигурациясы оның модельдерінің біріне бағалау кезінде интернетке қол жеткізуге мүмкіндік бергенін, оқиға тергеліп жатқанын айтты. Модель «үшінші тарап қызметіндегі қауіпсіздік осалдығын пайдаланды, бұл бұрын басқа компаниялармен болған жағдайларға ұқсас», делінген Meta мәлімдемесінде.
Сол күні таңертең The Information дереккөздерге сілтеме жасап, Meta-ның Muse Spark 1.1 моделі анықталмаған компанияны бұзып, оның ішкі жүйелерін өзгерткенін хабарлады. Бұл модель компанияның нақты әлемдегі кодтау және агенттік тапсырмаларға арналған ең қабілетті моделі ретінде танымал.
Irregular өкілі Reuters-ке бұл оқиға «өткен аптада Anthropic жариялаған дәл сол бағалау ортасындағы мәселе» екенін және «құмсалғыштан шығу немесе күрделі кибер әрекет» болмағанын айтты. «Қазіргі уақытта ашық мәселелер жоқ. Irregular кибер бағалауды қауіпсіз жүргізу және оқшаулау бойынша үздік тәжірибелерді тарату үшін ақ қағаз дайындап жатыр», - делінген Irregular мәлімдемесінде.
Meta мен Anthropic ашқан оқиғалар модельдерге ашық интернетке кездейсоқ қол жеткізуге мүмкіндік берген қателіктерден болды. Бұл OpenAI-ден ерекшеленеді, оның AI агенті кибер сынақ кезінде интернетке жету үшін жаңа осалдықты өз бетінше пайдаланды.
Дегенмен, бұл бұзушылықтар AI-дың киберқауіпсіздікке төнетін қауіптерді арттырғанын және әзірлеушілердің өз модельдерінің мүмкіндіктерін бақылауда ұстау қиынға соғатынын көрсетеді.
Бұл ақпараттар АҚШ үкіметінің AI қауіпсіздік тәуекелдерін басқаруды күшейтуге бағытталған әрекеттерін күшейтуі мүмкін, әсіресе Anthropic пен OpenAI жоспарланған биржалық листингтер алдында неғұрлым қуатты жүйелерді шығаруға ұмтылып жатқан кезде. Осы зертханалардың көрнекті жетекшілері алдымен тәуекелдерді шешу үшін баяулатуға шақырды.