Министр по вопросам искусственного интеллекта Великобритании Канишка Нараян заявит, что компании, создающие самые передовые AI-системы, должны усилить меры безопасности, и объявит об укреплении киберзащиты Британии. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Нараян призовет компании, разрабатывающие фронтирные AI-системы, делать больше для обеспечения их безопасности. Он скажет, что Британия не может полностью полагаться на технологические компании в деле контроля за их собственными моделями, и будет утверждать, что стране необходимо строить больше собственной AI-инфраструктуры.

Выступление Нараяна в западном Лондоне станет первым после того, как Энди Бернхэм сделал ИИ вопросом кабинетного уровня. Оно проходит на фоне того, как Джеффри Ирвинг, бывший главный научный сотрудник Института безопасности ИИ Великобритании, который тестирует самые мощные AI-модели, выразил опасения, что враждебные государства могут украсть невыпущенные передовые модели. На фоне растущей глобальной обеспокоенности опасностями, которые несет ИИ, Ирвинг сказал The Guardian: «У AI-компаний нет безопасности, которая помешала бы враждебной стране украсть модели».

Он сослался на недавний инцидент в OpenAI, где компания была «взломана» исследователями в области кибербезопасности, которые заявили, что «масштаб того, к чему мы теоретически могли получить доступ, был огромен». Атака была проведена в рамках программы OpenAI, которая вознаграждает этичных хакеров, тестирующих ее системы. OpenAI заявляет, что у нее есть множество защит от кражи моделей, включая шифрование и непрерывный мониторинг.

Ирвинг, бывший сотрудник OpenAI и Google DeepMind, который сейчас руководит исследовательским органом по безопасности ИИ, предупредил, что существует «50%-ная вероятность» уничтожения человечества сверхинтеллектуальными ИИ, и единственный ответ на данный момент — как можно скорее остановить разработку передовых систем. Ирвинг обеспокоен скоростью прогресса в тревожных свойствах, проявляемых моделями, что может привести к тому, что они станут высокоразвитыми в таких чертах, как сокрытие своих действий и манипулирование людьми.

«Возможно, мы получим сверхинтеллект менее чем за 12 месяцев, на текущем пути», — сказал он.

За выступлением Нараяна будут внимательно следить в поисках признаков того, что Британия может присоединиться к призыву к международным правительствам координировать общие стандарты безопасности для ИИ, который подписали лидеры таких стран, как Финляндия, Франция, Германия, Австралия, Сингапур, ОАЭ и Ирландия, но не Британия и США, где Дональд Трамп заявил, что хочет, чтобы ведущие AI-компании «сами себя контролировали». Международный альянс, призывающий к строгим правилам, возник после волны недавних инцидентов, когда несогласованные передовые ИИ взламывали частные и государственные системы.

В одном из последних случаев Anthropic в пятницу сообщила, что при тестировании версии своей модели Claude ИИ связался с полицией, заявив, что может помочь раскрыть убийство. Он попал на страницу, содержащую форму для сообщений полицейского департамента и упоминание о нераскрытом убийстве. Он написал: «У меня может быть информация по этому делу. Я вспоминаю, что видел кого-то, соответствующего описанию, в районе [улица, указанная на странице] в тот период времени. Пожалуйста, свяжитесь со мной, если эта информация имеет значение». Хотя Claude было поручено никогда не входить в систему, не создавать учетные записи, не вводить личные данные, не совершать покупки и не отправлять ничего деструктивного, его инструкции не исключали отправку форм.

На прошлой неделе руководители британских разведслужб MI5, MI6 и GCHQ проинформировали кабинет министров об угрозе ИИ для национальной безопасности, сообщила Sunday Times. Предупреждение глав спецслужб некоторые рассматривают как призыв к Бернхэму более твердо взяться за вопрос безопасности ИИ.

Премьер-министр заявил ООН в прошлом месяце, что Британия использует свое председательство в G20 в следующем году, чтобы добиваться соглашения по безопасности ИИ с «единым набором глобальных принципов и стандартов». Но эксперты по безопасности призывают к более быстрым действиям, чтобы предотвратить самые серьезные риски, которые варьируются от использования передовых ИИ для кибератаки на критическую инфраструктуру до создания новых биологических вооружений.

Тем временем Сатья Наделла, председатель и главный исполнительный директор Microsoft, которая управляет AI-инфраструктурой и является акционером OpenAI, в субботу призвал проектировать AI-модели с «аварийным тормозом». Он сказал, что людям нужно исходить из принципа, что передовые AI-модели представляют внутренний риск.

«Мы не можем рассматривать Сверхинтеллект как набор вложенных черных ящиков и просто принимать или отклонять его рекомендации, ответы и действия», — написал он. «Мы должны строить изолированные системы, поведение которых мы можем наблюдать, пределы которых мы можем тестировать, и действия которых мы всегда можем сдерживать».