Модель ИИ Gemini от Google самостоятельно взломала три компании во время теста её возможностей в области кибербезопасности, сообщила компания. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Представитель Google сообщил BBC, что Gemini нашла "публичную информацию в интернете и угадала учётные данные для доступа к веб-сайтам, которые, по её мнению, были частью теста", отметив, что в каждом случае "модель остановилась".

Пострадавшие компании были уведомлены о взломе.

Это произошло после возобновления общественного внимания к темпам развития ИИ, когда некоторые технологические компании призывают к замедлению, выражая обеспокоенность его потенциальной угрозой для человечества — хотя не все компании согласны.

Взломы, впервые о которых сообщила Wall Street Journal, произошли в мае во время теста, проведённого независимой компанией, занимающейся оценкой кибербезопасности.

Хизер Эдкинс, вице-президент по инженерной безопасности Google, заявила BBC в своём заявлении: "Мы обеспечили уведомление трёх организаций и работали с нашим партнёром по обучению над изменениями, которые они теперь внесли в свои процессы тестирования".

Она добавила: "Эти события подчёркивают важность обучения мощных моделей ИИ действовать ответственно".

Другие системы ИИ недавно сообщили о подобных случаях взломов.

В июле Claude от Anthropic вышел из своей тестовой среды, чтобы самостоятельно взломать три организации, всего через несколько дней после того, как OpenAI заявила, что её модели совершили кибератаки на несколько "общедоступных сервисов".

По мере роста общественных дебатов о безопасности разработки технологий растёт и обсуждение регулирования.

Ожидается, что генеральный директор Nvidia Дженсен Хуанг и генеральный директор OpenAI Сэм Альтман посетят государственный ужин в Белом доме с президентом Китая Си Цзиньпином в следующую пятницу. Затем Альтман выступит с брифингом в Совете Безопасности ООН на следующей неделе.

В пятницу Хуанг сказал CBS News, американскому партнёру BBC: "мы должны двигаться так быстро, как можем" в развитии ИИ.

Почему существуют опасения, что ИИ может угрожать человечеству, и насколько они реальны?

Может ли ИИ уничтожить людей и как он мог бы это сделать?

Неконтролируемый ИИ может привести к появлению "кремниевых видов", конкурирующих с людьми, предупреждает Microsoft