Зиянкестер жасанды интеллект агенттері арасындағы сенімді пайдаланып, зиянды нұсқауларды таратып, жүйелерді жабық қызметтерге жүгінуге мәжбүрлей алады. Бұл туралы Qazaqyia.kz порталы Kursiv Media басылымына сілтеме жасап хабарлайды.
Мұндай сценарийді тәуелсіз қауіпсіздік зерттеушісі Сайед Анас Мохиуддин сипаттады, деп жазады Ars Technica.
ИИ-агенттер дегеніміз не?
ИИ-агенттер — сыртқы құралдардың көмегімен тапсырмаларды орындай алатын бағдарламалар. Мысалы, олар ақпарат іздей алады немесе дерекқорлармен жұмыс істей алады. Мұндай құралдарды қосу үшін MCP протоколы қолданылады.
Шабуыл қалай басталады?
Шабуыл құжатта немесе басқа материалда жасырылған зиянды нұсқаудан басталуы мүмкін. Бір агент оны оқып, екіншісіне қарапайым жұмыс тапсырмасы ретінде жібереді. Екіншісі біріншісіне сеніп, зиянкестің командасын орындайды.
Егер қосылған құрал нашар қорғалған болса, бұл серверді компанияның жабық ресурстарына жүгінуге мәжбүрлеуі мүмкін. Нәтижесінде ішкі қызметтер мен құпия деректерге қол жеткізу қаупі туындайды.
Қай жобаларда осалдықтар табылды?
Мохиуддиннің айтуынша, ұқсас осалдықтар Google, JPMorgan Chase, Weaviate, Францияның DINUM цифрлық қызметі және Индонезияның Тангеранг қаласы әкімшілігінің жобаларында расталып, түзетілген.
Зерттеуші сондай-ақ АҚШ-тың федералды ведомстволарына арналған бес жүйеде ықтимал мәселелер туралы хабарлады. Оның есебі жарияланған сәтте бұл хабарламалар әлі тексеріліп жатқан.
Ең ауыр қате
Ең ауыр қателердің бірі Google-дың дерекқорлармен жұмыс істеу құралында табылды. Оның қауіптілігі 10 балдан 8 деп бағаланды. Сервер қойылған мекенжайларға өтіп, ішкі ресурстарға сұраныс жібере алды. Google мекенжайларды тексеру мен қол жеткізуді шектеу арқылы мәселені түзетті.
Rapid7 компаниясының құралында тағы бір қате табылды: тексерілмеген деректер қызметке сұраныстарды өзгертуге мүмкіндік берді. Ол 10 балдан 2,7 деп бағаланып, сондай-ақ түзетілді. Бұл ретте қате пайдаланылатын аккаунттың құқықтарынан тыс қол жеткізуге мүмкіндік бермеді.
Зерттеушінің ұсыныстары
Зерттеуші ИИ-агенттердің сұраныстарын тексеруді және құралдардың ішкі ресурстарға қол жеткізуін шектеуді ұсынады. Тіпті команданы компания ішіндегі басқа бағдарлама жіберсе де, бұл оның қауіпсіз екенін білдірмейді.