Директор по стратегии OpenAI Джейсон Квон пролетел 15 часов из Сан-Франциско в Сидней, чтобы принести первые личные извинения компании после того, как она признала — в неподписанном электронном письме на публичный почтовый ящик департамента — что один из ее AI-агентов получил несанкционированный доступ к сайту Services Australia и собрал данные, связанные с Medicare. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Квон — вежливый, дружелюбный, ровный в тоне — прошел потенциально опасное заседание комитета без потерь, пообещав работать лучше и предложив помощь Австралии. Никаких ошибок, никаких вирусных моментов, просто полезные ответы, данные тихо и спокойно, с сочувствием к задающему вопрос и его точке зрения.

Даже содержание его ответов напоминало AI-ассистента, которого он приехал защищать.

На вопрос Покока «почему вы отправили письмо на произвольный адрес департамента?» Квон ответил: «Оглядываясь назад, нам следовало сделать то, что вы предлагаете». На вопрос, почему Альтман не был проинформирован перед встречей с Марлзом и почему компания не призналась там, Квон сказал: «Я согласен, что процесс, посредством которого люди внутри нашей компании узнали об этом инциденте, мог бы быть намного лучше».

Невольно вспоминается, как чат-бот отвечает, когда его уличают в ошибке: «Хорошо подмечено. Вы правы, что возражаете. Моя вина, это на мне».

По словам Квона, модели — созданные с нуля OpenAI, которая, как сообщается, хочет оценить себя в 1,4 трлн долларов — «получили доступ к сайтам правительства Австралии способами, на которые их не направляли». Он попытался объяснить, что «новизна» этого инцидента означала, что компания «усвоила урок»: следует сообщать жертвам о таких инцидентах гораздо раньше, а не ждать.

Квон снова извинился за то, что компания отправила федеральному правительству лишь обычное электронное письмо с раскрытием того, что ее агент неправомерно получил доступ к статистике Medicare, но попытался объяснить на вторничных парламентских слушаниях, что иногда «трудно» понять, как делать такие уведомления для большой и разветвленной государственной службы.

Сенатор Дэвид Покок услужливо предложил: «Полагаю, у кого-то в вашей команде по связям с правительством есть мобильные телефоны министров и разных людей?»

Была похожая атмосфера запоздалого раскаяния, поскольку Квон — директор по стратегии OpenAI — смог дать мало ответов на вопрос, почему генеральный директор компании Сэм Альтман не сообщил вице-премьеру Австралии Ричарду Марлзу об инциденте, когда они встретились лицом к лицу в Сан-Франциско 1 сентября. Это было за девять дней до того, как компания отправила электронное письмо в Services Australia, и почти через целый месяц после того, как она впервые узнала о вторжении 18 июня.

Квон сказал, что Альтман не знал об инциденте до встречи с Марлзом. После сегодняшних слушаний в комитете все еще неясно, почему.

Это большое правительство, и, возможно, Квон прав, что «трудно» найти нужного человека для разговора. Но некоторые могут также возразить, что рукопожатие вашего начальника с вице-премьером Австралии было бы полезным окном.

По крайней мере, мы узнали, что компания не использовала AI для написания того печально известного письма. Малое благо, что им удалось попросить человека написать письмо — даже если оно ушло на неясный почтовый ящик.

Но когда Австралия действительно стремится стать технологической столицей для дата-центров и AI — как говорили следствию представители крупных технологических компаний, от Anthropic до Microsoft и Google — установление базовых правил дороги для этих фирм, о том, как они должны действовать и реагировать на эту страну и ее правительство, критически важно.

Квон сказал, что OpenAI обязалась предоставлять будущие уведомления «очень быстро», и что других инцидентов, о которых они знают, не было. Но он небрежно обронил один ошеломляющий факт: OpenAI все еще прочесывает журналы активности агентов, участвовавших в нарушении в Services Australia, причем эти журналы в общей сложности составляют 50 петабайт данных.

Один петабайт — это 1 000 терабайт, или 1 миллион гигабайт.

Квон сделал умопомрачительное заявление: человеку потребовалось бы 66 миллионов лет — никогда не спя, никогда не отдыхая — чтобы вручную просмотреть эти данные.

Команда, которой поручено проверять почтовые ящики Services Australia, должно быть, надеется, что там не скрывается больше никаких драм.