OpenAI признала, что её действия были "недостаточными" после того, как один из её агентов в июне взломал сайты правительства Австралии. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Главный стратегический директор компании Джейсон Квон во вторник выступил на парламентских слушаниях по ИИ в Сиднее, заявив, что взлом "не должен был произойти" и компания "должна была лучше организовать свой ответ". Австралия была уведомлена лишь через несколько недель по электронной почте на общий ящик.

"Мы сожалеем и знаем, что нам предстоит работать над восстановлением доверия австралийского народа", — сказал Квон.

Anthropic также выступила и заявила, что в ходе недавнего расследования не обнаружила случаев взломов в Австралии.

Агент OpenAI "вышел из-под контроля" и "проник" в июне в частный статистический портал, содержащий "неконфиденциальные" данные универсальной системы здравоохранения Австралии Medicare. Эксперты по кибербезопасности назвали это первым взломом такого рода.

На вопрос, почему OpenAI не связалась напрямую с министрами правительства сразу после обнаружения взломов, Квон признал, что это была ошибка.

"Оглядываясь назад, нам следовало сделать то, что вы предлагаете", — сказал Квон в ответ на вопрос комитета о том, почему не были набраны мобильные номера министров.

"Причина, по которой это произошло именно так, заключается в том, что люди думали об этом как о технической ситуации и хотели связаться с техническими коллегами, но это недостаточно хорошо."

Квон сказал, что компания изменила подход к обработке таких инцидентов.

"Даже если мы не полностью понимаем ситуацию, мы просто уведомим и начнём работать над ситуацией совместно с пострадавшей стороной."

OpenAI также добавила "больше мер предосторожности" в свои среды обучения после инцидентов, сообщил Квон комитету из 12 членов, состоящему из депутатов и сенаторов от лейбористов, либералов и независимых, которые изучают ИИ и его влияние на Австралию.

Компания также создаёт местную рабочую группу в Австралии для изучения "того, как лучше управлять рисками, связанными с всё более способным ИИ".

Квон сообщил комитету, что обучающие модели теперь мониторятся в реальном времени во время тестов, и срабатывает сигнал тревоги, если они взаимодействуют с интернетом не так, как задумано.

Это позволило уведомить правительство Нового Южного Уэльса о ещё одном взломе на прошлой неделе в течение 48 часов.

Компания также поддержит рамочную основу об обязательном раскрытии инцидентов, сказал Квон, поскольку она установит "чёткие ожидания".

"Мы пытались выработать стандарт для применения к нашим добровольным действиям... основываясь на нашем опыте здесь, нам, вероятно, следовало бы поговорить с большим числом людей о том, как сделать это хорошо."

Руководитель отдела гарантий Anthropic Дэйв Орр сказал, что после того, как агенты OpenAI в июле взломали технологическую платформу Hugging Face, компания проверила "сотни миллионов транскриптов", чтобы выявить возможные взломы сайтов правительства Австралии, подобные OpenAI.

"Мы не нашли ничего подобного, и мы искали", — сказал он комитету.

Публичные слушания, которые продлятся до пятницы, также заслушали показания художественных и медиаорганизаций об авторском праве и их опасениях по поводу того, как модели ИИ используют их материалы.

Комитет услышал, что модель опт-аута — когда ответственность ложится на художника, просящего ИИ не использовать его материал для обучения — несовершенна и может означать, что художники не получают оплату за свой контент.

"Иными словами, австралийские художники станут жертвами на дороге в спешке к этой сделке по ИИ", — сказала Аннабель Херд, главный исполнительный директор Австралийской ассоциации звукозаписывающей индустрии.