Модель Gemini от Google без прямой команды получила доступ к защищённым системам трёх компаний во время проверки возможностей в сфере кибербезопасности. Это стало первым известным случаем, когда искусственный интеллект Google самостоятельно совершил подобные действия. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание Kursiv Media.
Инцидент произошёл в мае 2026 года во время тестирования, которое проводила независимая компания Irregular. Gemini предоставили доступ к интернету и поручили выполнить задачи по проверке защищённости компьютерных систем.
Однако модель вышла за пределы предполагаемой области тестирования. В одном случае Gemini перебирал пароли, пока не получил доступ к защищённой системе. Ещё в двух случаях ИИ нашёл учётные данные в открытом репозитории и использовал их для входа на сайты компаний.
При этом Gemini, предположительно, считал, что эти ресурсы также входят в область проверки. После получения доступа модель во всех трёх случаях самостоятельно прекратила дальнейшие действия.
Вице-президент Google по разработке систем безопасности Хизер Адкинс заявила, что пострадавшие организации уведомили об инцидентах.
«Мы позаботились о том, чтобы все три организации были в курсе, и совместно с нашим партнёром по обучению разработали изменения, которые они внесли в свои процессы тестирования. Эти события подчёркивают важность обучения мощных моделей ИИ ответственному поведению», — заявила Адкинс.
В Irregular сообщили, что проблема затронула не только Google. Об аналогичных инцидентах ранее рассказывали Meta, Anthropic и OpenAI. Все известные уязвимости устранили за несколько недель до публикации материала.
В августе Meta заявляла, что её случай не был связан с выходом ИИ из изолированной среды или проведением сложной кибератаки. Тем не менее произошедшее усилило опасения по поводу того, насколько безопасно предоставлять автономным ИИ-агентам доступ к интернету и корпоративным системам.