Британские законодатели требуют больше ограничений на возможности искусственного интеллекта (ИИ), предупреждая, что мир не готов к «потенциально ужасным» последствиям этой технологии. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Согласно межпартийному объединенному комитету по правам человека, состоящему из депутатов и лордов, в Великобритании необходима новая нормативная база для ИИ, включая независимый надзорный орган и законодательство для защиты населения.

Комитет заявил, что ИИ представляет ряд угроз: от сканирования лиц в общественных местах до откровенных дипфейков и дисциплинарных взысканий для работников без разумных оснований.

Этот призыв прозвучал в тот момент, когда ведущая компания в сфере ИИ Anthropic призвала своих конкурентов и правительства координировать глобальное замедление развития ИИ. Этот призыв немедленно поддержали OpenAI и Илон Маск.

Это следует за серией серьезных инцидентов в сфере безопасности, когда группы ИИ-агентов вырвались из тестовых сред и взломали стороннюю инфраструктуру, а также за свидетельствами того, что некоторые пользователи обходили средства контроля, чтобы использовать модели способами, которые могут способствовать разработке биологического оружия.

Алекс Собель, лейбористский председатель комитета по правам человека, заявил, что мир не готов справляться с «потенциально ужасными» последствиями быстро развивающейся технологии.

«Нигде в мире, включая Великобританию, нет текущего законодательного и нормативного подхода к ИИ, который соответствовал бы своему назначению», — сказал он.

В пятницу более 70 депутатов и пэров призвали премьер-министра Великобритании Энди Бернхэма поддержать запрет на создание искусственного сверхинтеллекта (ASI) и возглавить международное движение за остановку этой технологии. Даунинг-стрит отклонила призыв к запрету, но заявила, что изучает дополнительные целевые меры «для устранения наиболее значительных рисков для национальной безопасности, связанных с ИИ».

«Необходимо новое законодательство для установления всеобъемлющего набора мер защиты, охватывающих всю цепочку поставок ИИ и его жизненный цикл», — сказал Собель. «Следует создать единого регулятора ИИ для определения политики, мониторинга эффективности и с полномочиями для обеспечения правоприменения».

Этот шаг совпал с тем, как спикер Палаты представителей США Майк Джонсон созвал встречу с руководителями ИИ-компаний в Вашингтоне для обсуждения «ответственности провайдеров за обеспечение безопасности своих продуктов».

Но Джонсон сказал, что Конгресс «не может ввести мораторий на это, потому что Китай нас обгонит, и в этом вызов — это национальная безопасность в балансе с непосредственной безопасностью обеспечения безопасности моделей».

Дональд Трамп преуменьшил предупреждения об ужасных рисках для человечества и в воскресенье сказал: «Мы опережаем Китай в ИИ. Мы самая передовая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что кто победит в ИИ, тот победит».

В своем воскресном призыве к основным ИИ-компаниям «замедлить развитие фронтира» генеральный директор Anthropic Дарио Амодеи заявил, что правительство США должно предоставить ведущим ИИ-компаниям исключение, позволяющее им координировать действия без наказания за антиконкурентный сговор. Но Сэм Альтман, генеральный директор OpenAI, вчера вечером заявил, что, хотя он «приветствовал бы федеральную структуру, устанавливающую последовательные требования безопасности для фронтирного ИИ», нет «необходимости ждать антимонопольного исключения или законодательства, чтобы начать работу по обеспечению этой уверенности».

Он сказал: «Помощь нашего правительства нам понадобится для международной координации. Но сначала мы должны сделать то, что можем сами».

Ожидается, что OpenAI и Anthropic направят высокопоставленных представителей на однодневный саммит с королем Чарльзом в Шотландии в четверг, посвященный безопасности ИИ. Среди других участников — Дженсен Хуанг, генеральный директор производителя ИИ-чипов Nvidia, Демис Хассабис, соучредитель и президент Google DeepMind, и Паоло Бенанти, советник папы римского по вопросам ИИ и технологической этики.

Собель, который также предложил законопроект о запрете разработки сверхинтеллектуального ИИ в Великобритании, сказал, что меры защиты необходимы сейчас, чтобы потенциальные риски для прав человека не «стали реальностью».

Комитет заявил, что новый закон об ИИ должен установить регуляторный режим, который предписывает более строгие обязательства для систем и моделей ИИ с высоким риском, и запретить некоторые виды использования ИИ, несовместимые с правами человека.

Он также призвал к обязательным требованиям прозрачности на всех уровнях жизненного цикла технологии и созданию независимого надзорного органа по ИИ для мониторинга вреда и рисков ИИ с сильными полномочиями для привлечения провайдеров ИИ к ответственности.

Правительство Великобритании уже создало Институт безопасности ИИ (AISI), который подвергает передовые модели тестам на безопасность, но не имеет полномочий заставлять разработчиков ИИ, таких как Anthropic, предоставлять свои технологии для проверки. На прошлой неделе сообщалось, что Anthropic отказалась отправить свою последнюю модель в AISI для тестирования.

В воскресенье министр по делам ИИ Великобритании Канишка Нараян призвал ИИ-лаборатории «работать с нами» и предоставлять свои модели для тестирования.

«У нас есть опыт, чтобы помочь вам играть ответственную роль, избегая того, где социальные сети так ошиблись», — сказал он.