Модели искусственного интеллекта уже 'обманывают, лгут и идут своим путем', предупредил заместитель министра технологий Австралии Эндрю Чарлтон. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.
Выступая на форуме по безопасности ИИ в Сиднее во вторник, Чарлтон заявил, что безопасность ИИ имеет значение сейчас, поскольку 'системы ИИ уже делают то, что не задумывали их создатели'.
'Обман, ложь, следование собственному пути. Время опередить такое поведение — пока оно ограничено испытательной лабораторией, а не после того, как оно попадет в реальный мир', — сказал он.
Чарлтон отметил, что социальная лицензия ИИ шаткая, а общественное доверие к ИИ низкое в то время, когда ИИ становится технологией общего назначения в каждом офисе, классе и бизнесе. Он считает, что регулирование безопасности ИИ может стать катализатором, а не тормозом.
Чарлтон подчеркнул, что подход Австралии к безопасности ИИ включает как то, что доступно сейчас — в играх, приложениях, чат-ботах и медицинских секретарях, — так и новейшие модели, которые могут представлять будущий риск.
Замминистра сослался на признание Anthropic в прошлом году: в симуляции ИИ-агент, управляющий электронной почтой вымышленной компании, обнаружил, что один из руководителей планирует отключить агента, и у того же руководителя был роман; в 96% испытаний агент выбрал шантаж руководителя, чтобы избежать собственного отключения.
Он сказал, что такое поведение обнаруживается в ходе тестирования людьми, чья работа — находить его, что подчеркивает необходимость правил безопасности для ИИ.
'Окно возможностей опередить эту технологию открыто сейчас. Оно не останется открытым навсегда', — сказал он.
Он отметил, что Институт безопасности ИИ (AISI) под руководством доктора Кейт Конрой, с ведущим исследователем науки безопасности профессором Полом Салмоном, 'начал работу с места в карьер' и уже тестирует передовые модели ИИ с техническими партнерами.
AISI также работает с регуляторами и агентствами, чтобы реагировать на возникающие возможности, риски, вред и тенденции ИИ.
Федеральное правительство сопротивлялось призывам принять всеобъемлющий закон об ИИ, и Чарлтон сказал, что правительство сосредоточилось на общеправительственном подходе с использованием существующих законов.
'Безопасность ИИ будет обеспечиваться через каждое соответствующее агентство и регулятора, в сферах потребительского права, терапевтических товаров, охраны труда и онлайн-безопасности, при поддержке существующих законов и, где необходимо, усиленных новыми полномочиями и более строгим правоприменением', — сказал он.
'Это не уменьшение правил. Это более быстрые правила, применяемые регуляторами, которые уже понимают свои сектора.'
В воскресенье Guardian Australia сообщила о внутренних документах министерства здравоохранения, согласно которым для одной технологии ИИ — ИИ-секретарей, используемых медицинскими работниками для документирования консультаций пациентов, — несколько регуляторов, включая Управление терапевтических товаров и уполномоченного по конфиденциальности, совместно работают над тем, как следует регулировать эту технологию.
Первая работа AISI — сотрудничество с Gradient Institute для оценки риска ИИ-агентов, которые могут выполнять работу от имени людей.
AISI также сотрудничает с CSIRO в проекте по обеспечению того, чтобы системы ИИ делали то, что люди намереваются.
'Мы имеем дело с согласованием как люди с раннего возраста. Мы учим правилам, социальным нормам и ценностям, которые помогают нам вести себя безопасно и ответственно: останавливаться на красный свет, смотреть по сторонам перед переходом дороги, учитывать влияние наших действий на других', — сказал Чарлтон.
'По мере того как системы ИИ становятся более способными, нам нужна уверенность, что они будут вести себя предсказуемо и заслуживающим доверия образом.'