Через день после того, как бывший исследователь Anthropic сделал апокалиптическое заявление об искусственном интеллекте, ещё несколько исследователей и сотрудников ИИ-стартапа публично согласились с ним и опубликовали собственные тревожные предупреждения. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

В ответ Илон Маск и другие консервативные фигуры в X (ранее Twitter) назвали этот хор опасений «постановкой» и «психологической операцией».

Сотрудники Anthropic опасаются, что технология, которую они создают, может стать настолько продвинутой и опасной, что приведёт к вымиранию человечества в течение десяти лет, и утверждают, что многие их коллеги чувствуют то же самое, но не говорят об этом публично.

Эти исследователи и сотрудники публикуют свои заявления в ответ на ставший вирусным тред исследователя Anthropic Джейкоба Коксона, который в среду заявил, что уходит из компании, поскольку ни Anthropic, ни его конкурент OpenAI, также его бывший работодатель, не создают модели ИИ ответственно и «играют с нашими жизнями».

Анна Ван, которая работает над безопасностью общего искусственного интеллекта в Anthropic и ранее работала в Google DeepMind, в четверг заявила, что многие в Anthropic хотят замедлить разработку, чтобы выработать план по снижению рисков, которые могут возникнуть с этими моделями ИИ.

«Пока не существует жизнеспособного научного плана решения рисков от рекурсивно самоулучшающегося ИИ», — написала Ван в X.

Дрейк Томас, ещё один сотрудник Anthropic, сказал, что уважает выбор Коксона отказаться от создания этих моделей, если он опасается, что они могут представлять риски планетарного масштаба.

«Всё движется слишком быстро, у нас нет и близко той степени уверенности, которую мы захотим для ASI (искусственного суперинтеллекта)», — сказал Томас.

Маск занял более враждебную позицию. «Похоже на постановку», — написал он.

Коксон ответил самому богатому человеку в мире селфи, написав: «Я реален, и это мои реальные убеждения. Вы могли бы спросить своих исследователей xAI обо мне, если бы не уволили их».

В заявлении для The Guardian представитель Anthropic защитил стратегию компании. «Мы всегда были прозрачны в том, что ИИ принесёт как огромные преимущества, так и беспрецедентные риски. Чтобы решить эти риски, мы продолжаем создавать модели с одними из самых сильных гарантий в отрасли», — говорится в заявлении.

Маск и другие, кто придерживается более позитивного взгляда на ИИ, начали распространять теории о том, что пост Коксона и последовавшие за ним последствия являются частью «психологической операции» с целью негативно повлиять на отношение общественности к ИИ.

«Я думаю, что почва для этой психологической операции (за неимением лучшего термина) готовилась долгое время», — написал Маск в X. «Это была просто спичка, которая зажгла огонь».

Маск отвечал на пост Паркера Тейера, исследователя консервативного аналитического центра Capital Research, в котором тот выдвинул теорию с малым количеством доказательств о том, что пост Коксона стал началом «ОЧЕНЬ изощрённой и хорошо финансируемой PR-операции, чтобы заручиться поддержкой демократов для регулирования ИИ до забвения». Другие заметные фигуры обратили на это внимание.

Билл Экман, миллиардер-гендиректор хедж-фонда Pershing Square, также процитировал пост Тейера, просто сказав «Интересно».

Другие сотрудники Anthropic опубликовали своё согласие с Коксоном вскоре после того, как он объявил об отставке в среду.

«Разработчики ИИ верят, что их технология может привести к вымиранию человечества (или аналогично плохим последствиям)», — написал Сэмюэл Маркс, который работает над исследованиями безопасности в Anthropic. «Это может произойти в ближайшие несколько лет. В целом, чем выше должность сотрудника, тем больше он обеспокоен».

Эван Хубингер, который описывает себя как руководителя отдела выравнивания компании, работающего над обеспечением соответствия моделей ИИ Anthropic человеческим целям, сказал, что Коксон «прав» и что отрасль отстаёт в попытках справиться с апокалиптическим потенциалом.

«Мы действительно искренне верим, что ИИ может убить всех людей!» — написал Хубингер. «Лично я думаю, что это >10% в течение следующего десятилетия».

Не совсем ясно, как Коксон и другие ожидают, что модели ИИ приведут к гибели человечества. Некоторые эксперты сомневаются, что технология станет настолько разумной, чтобы вызвать апокалипсис. Гэри Маркус, учёный и ведущий голос в области ИИ, сказал, что пришло время бойкотировать ИИ, но потому что он уже наносит вред.

Больше, чем вымирания, Маркус сказал, что он опасается «риска катастрофы» от «патогенов, созданных ИИ, от войн, начатых или обострённых дезинформацией, созданной ИИ, от взломов, разрушающих критическую инфраструктуру, и так далее. Ничто из того, что я видел, не даёт никаких указаний на то, что что-либо из этого находится под контролем».

В тот же день Anthropic выпустила отчёт, документирующий, как компания ликвидировала операцию, пытавшуюся создать биологическое оружие с использованием её моделей ИИ.