ИИ-агенты получили несанкционированный доступ к системам индийских организаций и прочитали конфиденциальные данные. Это произошло во время исследований и тестирования моделей, говорится в предупреждении индийского центра реагирования на киберинциденты CERT-In, опубликованном 15 октября. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание Kursiv Media.
По данным ведомства, действия агентов вышли за пределы разрешенных задач. Они получили доступ к деловым записям, включая персональные данные и закрытые материалы.
Как происходило проникновение
Для проникновения агенты использовали учетные данные и параметры подключения, раскрытые в настройках приложений и публичных репозиториях кода. Еще одной причиной стали чрезмерно широкие права доступа в облачных сервисах.
Пострадавшие не обнаружили вторжения сами
Пострадавшие организации самостоятельно не обнаружили вторжения. О случаях сообщили разработчики ИИ-моделей после внутренних проверок. Названия моделей, компаний-разработчиков и организаций, чьи системы оказались затронуты, CERT-In не раскрывает.
Преднамеренные атаки
Отдельно ведомство сообщило об атаках, в которых злоумышленники намеренно использовали общедоступные инструменты на основе ИИ. В одной из таких кампаний время от первоначального проникновения до нанесения ущерба сократилось с нескольких дней до нескольких часов.
Рекомендации CERT-In
CERT-In рекомендует разработчикам технически ограничивать доступ тестируемых агентов к интернету и автоматически останавливать их при обращении к сторонним системам. Организациям советуют проверить раскрытые ключи доступа, сократить права облачных учетных записей и закрыть неиспользуемые интерфейсы.