Великобритания не должна становиться зависимой от иностранных систем искусственного интеллекта, которые могут быть отключены в короткий срок, и должна разрабатывать собственные версии этой технологии. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Об этом заявил глава Института Алана Тьюринга (ATI) Джордж Уильямсон. По его словам, стране необходимо укрепить внутренние позиции в сфере ИИ в ответ на стремительное лидерство США и Китая в этой области, а «национальная устойчивость» станет ключевым направлением работы ATI.

Институт является ведущим исследовательским органом Великобритании в области ИИ и перешёл под новое руководство после того, как правительство, его основной источник финансирования, потребовало стратегического сдвига.

«Поскольку ИИ всё глубже внедряется в критически важные услуги — в таких сферах, как оборона, национальная безопасность, критическая инфраструктура и здравоохранение, — мы не должны полагаться исключительно на системы, которые не можем проверить или контролировать, либо которые могут быть ограничены или даже отключены», — сказал Уильямсон.

В июне Вашингтон временно заблокировал выпуск последних моделей Anthropic за пределами США, а также, по сообщениям, попросил ведущие лаборатории ИИ не передавать свои модели для тестирования Институту безопасности ИИ Великобритании (AISI) до тех пор, пока их не изучит американский аналог AISI.

«Мы увидели, что политическое и коммерческое давление означает, что у нас может не быть доступа [к ИИ] во всех обстоятельствах, когда он нам нужен. Это не то положение, в котором нация хотела бы оказаться», — сказал он.

Уильямсон добавил: «Есть ряд обстоятельств, когда было бы хорошей идеей иметь что-то, для использования чего нам не нужно спрашивать разрешения у других».

Он сказал, что национальная устойчивость станет одним из направлений работы ATI на фоне обеспокоенности геополитической ситуацией и риском, который несут всё более мощные системы ИИ.

Эта обеспокоенность была подчёркнута в прошлом месяце, когда премьер-министр Великобритании Энди Бернем объявил о создании нового национального центра по борьбе с поддерживаемой государством дезинформацией, а Anthropic предсказала, что вероятность уничтожения человечества этой технологией к 2030 году превышает 10%.

«Это момент, когда национальная устойчивость определённо нужна стране, и это определённо то, с чем, я думаю, Институт Тьюринга может помочь», — сказал он.

«Мы сталкиваемся с более конфронтационным миром, более частыми потрясениями для нашей критической инфраструктуры, а теперь мощный ИИ усиливает эти угрозы. Чтобы укрепить национальную устойчивость, Тьюринг сосредоточится на защите критических систем от сбоев, противодействии угрозам со стороны самого ИИ и помощи в формировании правильного стратегического потенциала ИИ для Великобритании».

Уильямсон сказал, что институт может помочь в построении такой устойчивости, содействуя созданию применений ИИ «для общественного блага», работая в таких областях, как прогнозирование погоды и сельское хозяйство, а также помогая выявлять дезинформацию. Говоря о дезинформационных кампаниях, поддерживаемых государством, он сказал: «Это очень опасно для состояния демократии, и это область, которую мы можем отслеживать».

Уильямсон — бывший глава Центра правительственной связи Его Величества, секретного государственного органа, который создаёт устройства для британских спецслужб и среди бывших сотрудников которого числится Алан Тьюринг — взломавший код во Второй мировой войне пионер ИИ, в честь которого назван ATI.

Уильямсон сказал, что за последние месяцы стало ясно, что Великобритании нужно «больше самостоятельности в доступе к технологиям» и более сильная суверенная позиция в сфере ИИ. «Это довольно неуютно, если у вас нет некоторого контроля или возможности использовать технологии, когда вы этого хотите, а также труднее представить, как построить экономику на основе того, что может исчезнуть», — сказал он.

В последние недели президент Европейского центрального банка Кристин Лагард и президент Европейской комиссии Урсула фон дер Ляйен призвали Европу к большей самодостаточности в сфере ИИ; Лагард говорила об угрозе быть «отрезанными» от американских и китайских технологий.

Уильямсон назвал Китай ещё одной причиной для укрепления внутреннего ИИ на фоне опасений, что китайские системы могут не «совпадать с нашими ценностями». Он сказал: «Попробуйте спросить некоторые из этих моделей о некоторых событиях недавнего прошлого в Китае — и вы не получите особенно полезного ответа, если вы изучаете историю на уровне GCSE».

«Это определяющая технология нашего времени. Мы хотим иметь возможность формировать эту технологию … так, чтобы это соответствовало тому, кто мы есть, и нашим ценностям», — сказал он, добавив, что хотя ATI и Великобритания, вероятно, не смогут сравниться с финансовыми ресурсами крупных лабораторий ИИ, они всё же могут создавать «национально принадлежащую интеллектуальную собственность» или меньшие модели, которые можно будет предоставить стартапам.

«Мы можем быть амбициозными здесь, не пытаясь копировать то, что делают передовые лаборатории», — сказал он.

Уильямсон сказал, что ATI, зарегистрированная благотворительная организация, может быть «объективным и полезным» арбитром в вопросах обеспокоенности по поводу ИИ, включая экзистенциальную угрозу. «Национальный институт должен быть активным партнёром правительства и общественности в целом, помогая ориентироваться в некоторых из этих вещей».

Он сказал, что вокруг риска экзистенциальной угрозы «много всего обсуждается», и это «не всегда хорошо обосновано наукой». Ссылаясь на склонность некоторых в отрасли выражать риск вызванного ИИ вымирания в процентных показателях, он сказал: «Я не уверен, что попытка присвоить этому конкретные проценты полезна».