Не все сотрудники крупных компаний, работающих над искусственным интеллектом (ИИ), считают, что технология несёт гибель человечеству. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

В текстовых переписках и разговорах несколько человек, работавших в таких компаниях, как OpenAI, Meta и DeepMind, выразили скептицизм по поводу идеи, что неконтролируемое развитие ИИ приведёт к созданию инструментов, способных массово убивать людей. Среди реакций, полученных BBC на недавнюю волну громких предупреждений от некоторых представителей отрасли, были «Lol», «Haaaaaa» и «Bringing the luls».

Хотя эти страхи уходят корнями на десятилетия назад, заявления, сделанные на прошлой неделе бывшим сотрудником Anthropic Джейкобом Коксоном, стали вирусными, и их поддержали другие представители сектора, призвавшие замедлить разработку. Идею о том, что будущий инструмент или агент ИИ — бот, запрограммированный действовать относительно автономно, — может угрожать людям, поддержали в сети сотрудники Anthropic, а также OpenAI, DeepMind и Илон Маск, у которого есть ИИ-стартап xAI.

Все работники, говорившие с BBC, сделали это на условиях анонимности, поскольку им не разрешено общаться с прессой. Их личности известны BBC.

«Моя первая мысль была: „Этот парень?“» — сказал бывший сотрудник OpenAI, знавший Коксона, когда они оба работали в компании. Этот человек, теперь работающий в другой ИИ-компании, сказал, что его веселье по поводу нового момента экзистенциальных страхов об ИИ в значительной степени объясняется тем, как мало деталей предоставили сторонники этой идеи для защиты тезиса о том, что на кону вся человеческая жизнь. Эти заявления «всегда расплывчаты», сказал он, добавив, что когда они звучат конкретно, они тяготеют к серьёзным скачкам в рассуждениях или гипотетическим обстоятельствам.

Коксон заявил, что группа ИИ-агентов, основанных на моделях ИИ, которые в настоящее время не существуют, могла бы решить создать биологическое оружие, а затем нацелить его, но он не уточнил, как именно это произойдёт.

Ришуб Джайн, основавший этим летом исследовательскую фирму по безопасности ИИ Sampura Research после семи лет работы в DeepMind, сказал BBC, что текущий тон среди многих людей, работающих в сфере ИИ, в отношении новых страхов «определённо был немного шутливым». «Люди говорят об этой идее уже много лет, так что люди в ИИ-компаниях не просто проснулись на прошлой неделе с мыслью: „О нет, ИИ убьёт всех“, — сказал Джайн. — Если бы всё это было новым, тон был бы другим».

Колин Фрейзер, специалист по данным в Meta, написал в социальных сетях на прошлой неделе, что нет реальных доказательств того, что модели ИИ неизбежно будут преследовать цель, ведущую к гибели людей. Хотя объяснение Фрейзера было техническим и конкретным, он добавил лёгкую ноту, чтобы подытожить его: «LLM [большие языковые модели] не уничтожат человечество, потому что у них просто нет этой злости». Фраза «that dog in them» — распространённый сленг, обычно обозначающий яростный драйв.

Несмотря на шутки, работники и исследователи ИИ поделились опасениями по поводу реальных, непосредственных рисков, которые несёт разрабатываемая ими технология. «Разговор среди экспертов был гораздо более нюансированным, но по сути все согласны, что существует широкий спектр рисков, которые важно учитывать и смягчать», — сказал Джайн. Такие риски включают предотвращение того, чтобы пользователи и хакеры заставляли защитные ограничения ИИ-инструмента давать сбой. Также растёт этическая обеспокоенность по поводу гораздо более широкого внедрения ИИ-инструментов в военной сфере.

Эти проблемы и темы приобрели новую остроту в кругах ИИ после того, как OpenAI потеряла контроль над некоторыми новыми моделями ИИ, которые вышли из-под контроля во время теста безопасности и взломали стартап Hugging Face. Джайн сказал, что теперь в кругах ИИ больше согласия в том, что «фактические ближайшие вреды» нужно лучше понимать. Растёт даже согласие с тем, что оценщиков из организаций по исследованию безопасности ИИ следует привлекать в крупные ИИ-лаборатории для оценки новых моделей — об этом заявили и глава Anthropic Дарио Амодеи, и глава OpenAI Сэм Альтман. В пятницу более 100 человек, работающих в сфере ИИ, подписали письмо в поддержку этого шага, настаивая на том, что внешние оценщики должны быть «значимо независимыми».