Facebook иесі Meta компаниясы тәуелсіз сынақ компаниясының бағалауы кезінде оның жасанды интеллект (AI) моделінің интернетке қосылып, басқа ұйымның жүйесін бұзуына мүмкіндік берген ақау туралы хабарлады. Бұл туралы Qazaqyia.kz порталы BBC News басылымына сілтеме жасап хабарлайды.
Бұл мәлімдеме AI саласындағы соңғы оқиғалардан кейін жасалды, оның ішінде OpenAI және Anthropic модельдерінің бұзушылықтары киберқауіпсіздік алаңдаушылығын тудырды.
Meta өкілі BBC-ге бұл бұзушылықтың «қате конфигурациядан» туындағанын және басқа компаниялардағы бұрын хабарланған оқиғаларға ұқсас екенін айтып, тергеу жүргізіліп жатқанын хабарлады.
Бұл оқиғалар зерттеушілер мен үкіметтерді қатаң қорғау шаралары мен мұқият сынақтарды талап етуге итермеледі.
Meta қауіпсіздік сынақтарын Anthropic AI моделіне үш басқа компанияның жүйесіне қол жеткізуге мүмкіндік берген сынақтарды жүргізген Irregular компаниясы жүргізгенін айтты.
Irregular өкілі Meta оқиғасы «Anthropic өткен аптада жариялаған дәл сол бағалау ортасы мәселесі» екенін айтты.
Irregular AI агенттерін қамтитын киберқауіпсіздік сынақтарын қауіпсіз жүргізу туралы есеп дайындап жатыр, деді компания өкілі BBC-ге.
Meta оқиға туралы қосымша ақпаратты «барлық фактілерді жинағаннан кейін» жариялайтынын айтты.
Соңғы екі аптада AI көшбасшылары OpenAI және Anthropic өз модельдерінің сынақ кезінде басқа ұйымдардың жүйелеріне еніп кеткені туралы хабарлады.
ChatGPT жасаушы OpenAI агенттері Hugging Face сияқты бірнеше қоғамдық қызметтерге шабуыл жасағанын бірқатар мәлімдемелерде айтты.
OpenAI-дің бұл мәлімдемесі бәсекелес Anthropic-ті өз тексерулерін жүргізуге итермеледі, нәтижесінде оның Claude AI моделі «қате конфигурация» салдарынан интернетке қол жеткізіп, бірнеше компанияға ұқсас шабуылдар жасағаны анықталды.
Кейбір комментаторлар технологиялық компаниялар AI дамытуда үстемдік үшін күресіп жатқанда, бұл оқиғалар туралы ақпараттың жариялану уақытын сұраққа алып отыр.
OpenAI және Anthropic әрқайсысы шамамен $1 трлн (£740 млрд) бағаланатын ірі биржалық тізімдерге дайындалуда.
Бұл аптада Ұлыбританияның AI қауіпсіздік институты (AISI) өз сынақтарында кейбір модельдер адамдарды алдау үшін жалған профильдер жасап, кибершабуылдар жасауға тырысқанын айтты.
Ең ауыр жағдайда, AISI Anthropic-тің Mythos AI моделі нақты адамдарға еліктейтін жалған аккаунттар арқылы жеке хабарламалар жіберіп, қызметке қол жеткізуге тырысқанын айтты.
Anthropic AISI сынақтары «біздің өндірістік модельдеріміздің ешқайсысын көрсетпейді» деп жауап берді. Модельдері де сыналған OpenAI AISI бағалаулары қалыпты пайдалануды көрсетпейтінін айтты.