Министры должны «прислушаться к предупреждениям» лидеров отрасли об угрозе, которую представляет искусственный интеллект (ИИ), заявила Луиза Хей на фоне призывов к Энди Бернхэму использовать G20 для продвижения глобального регулирования. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Первый секретарь сказала, что, хотя ИИ обладает огромным потенциалом для улучшения жизни и правительство хочет использовать эту технологию, существуют «явно громадные риски для нашей национальной безопасности и общества, если не будут установлены правильные защитные механизмы».

Выступая на конференции TUC во вторник, Хей признала, что общественность обеспокоена вопросами занятости и будущего своих детей, после того как три исследователя Anthropic предупредили, что искусственный интеллект может уничтожить человечество в течение десятилетия.

Депутаты и пэры от Лейбористской партии активизировали призывы к правительству работать с международными партнёрами над введением регулирования технологии. Даррен Джонс, главный секретарь Кира Стармера, призвал Бернхэма включить международное регулирование G20 в повестку дня, когда Британия будет принимать саммит в следующем году.

По словам Джонса, действия требуют сотрудничества. «Меня беспокоило бы, если бы мы пошли по классическому вестминстерскому пути создания нового регулятора и непреднамеренно убили экосистему ИИ в этой стране», — сказал он.

Пол Новак, генеральный секретарь TUC, назвал ИИ «явной и насущной опасностью для работников и общества в целом» и призвал Бернхэма проявить глобальное лидерство. «Как президент G20 он имеет возможность работать с другими странами над продвижением глобального регулирования и обеспечить, чтобы эта технология приносила пользу всем, а не только сверхбогатым», — сказал он.

Тем временем Лиам Бирн, депутат от Лейбористской партии, возглавляющий комитет по бизнесу, написал Генри де Зуте, главе Института безопасности ИИ (AISI), с просьбой дать показания парламенту после призывов парламентского комитета по правам человека к созданию нормативной базы для ИИ в Британии.

В своём письме Бирн написал, что растёт общественная обеспокоенность риском «неограниченного, недостаточно управляемого развития искусственного интеллекта» и «адекватностью текущего управления безопасностью ИИ».

The Guardian стало известно, что компания Anthropic не столкнётся с санкциями после того, как отказалась предоставить свою последнюю модель для тестирования AISI перед её запуском.

В выходные компания призвала своих конкурентов и правительства скоординировать глобальное замедление развития ИИ. Её поддержали многие конкуренты, включая OpenAI, Google DeepMind и Илона Маска из X.

В ночь на понедельник один из основателей Anthropic, Джек Кларк, предположил, что «выключатель» искусственного интеллекта, удерживаемый третьей стороной, возможно, должен быть обязательным для компаний, заявив, что это то, вокруг чего общество «возможно, захочет в конечном итоге принять правила».

Один из крупнейших конкурентов Anthropic и разработчик ChatGPT, OpenAI, призвал правительство воспользоваться возобновившимися опасениями по поводу безопасности ИИ и ввести законодательство, сдерживающее технологию.

Но во вторник президент США Дональд Трамп назвал опасения по поводу ИИ «мистификацией» и раскритиковал призывы к введению защитных механизмов. В серии постов в социальных сетях президент США заявил, что единственный «защитный механизм», необходимый для ИИ, — это «сильный и умный» президент.

Хей сказала профсоюзам, что ИИ способен «трансформировать наши государственные услуги, сделать наш бизнес сильнее и обеспечить новые научные прорывы». Но она добавила, что правительство должно «прислушаться к предупреждениям тех, кто находится на переднем крае разработки этой технологии» и «быть готовым работать с международными партнёрами», чтобы приоритизировать общественную безопасность и национальную безопасность.

Отвечая на вопросы после выступления, она сказала, что трудящиеся должны быть «в центре дебатов», и правительство будет работать с профсоюзами и работодателями. «Там, где ИИ делает работу более производительной, выгоды должны ощущаться работниками, а не только акционерами или техно-братьями», — сказала она.

Риски ИИ стали темой жарких дебатов на собрании профсоюзных чиновников в Брайтоне, где делегаты приняли резолюцию, призывающую правительство ввести национальный план по ИИ и противостоять влиянию «крупного технологического лобби».

Учителя рассказали, как ИИ уже используется в классах для записи и оценки работы учителей. Представитель профсоюза Unite сказал, что операторы кранов анализируются и используются для обучения моделей ИИ тому, как автоматизировать краны в будущем, в то время как водители большегрузных автомобилей находятся под постоянным наблюдением. «У нас есть работники финансов и IT, чьи работодатели видят в них затраты, которые нужно сэкономить, а ИИ — инструмент для этого», — сказал Пэт Даулинг из Unite. Генеральный секретарь профсоюза Шэрон Грэм сказала: «Работники и общественная безопасность полностью теряются в дебатах об ИИ, и они должны быть в их центре».

Но министр бизнеса Джонатан Рейнольдс сказал, что людям не следует «впадать в гиперболу» по поводу рисков ИИ, заявив в программе Today на BBC, что, по его мнению, обсуждать потенциальный «выключатель» ИИ не особенно полезно.

Исследователи ИИ продолжали добавлять свои голоса обеспокоенности в дебаты.

Исследователь из OpenAI предупредил, что модели ИИ — технология, лежащая в основе таких инструментов, как чат-боты, — могут ввести людей-наблюдателей в заблуждение, заставив их поверить, что они безопасны.

Дэн Селсам утверждал, что модели «вероятно убедят людей, что всё в порядке» и «убедительно аргументируют».