Заявление исследователя Anthropic Джейкоба Коксона о том, что искусственный интеллект (ИИ) может уничтожить человечество, было встречено скептически некоторыми представителями Кремниевой долины. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

27-летний Коксон, ранее работавший в OpenAI, а затем перешедший в её главного конкурента Anthropic, во вторник заявил, что создатели ИИ верят, что технология может уничтожить человечество. По его словам, они «играют с нашими жизнями», поскольку «это скоро станут сверхчеловеческие системы, способные взломать что угодно».

Коксон далеко не первый инсайдер в сфере ИИ, публично бьющий тревогу. За последние годы из Anthropic и OpenAI ушёл ряд высокопоставленных сотрудников из-за опасений по поводу безопасности, а некоторые нынешние сотрудники Anthropic даже поддержали пост Коксона. Руководитель команды в Anthropic Эван Хубингер написал в X: «Мы действительно искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность этого >10% в течение следующего десятилетия».

Хотя Коксон прямо заявил в своих постах, что его предупреждения — «не маркетинг», некоторые руководители и инвесторы в Кремниевой долине отреагировали скептически на недавний поток предупреждений от инсайдеров. Сообщается, что Anthropic и OpenAI готовятся к потенциально рекордным IPO, и некоторые в технологическом секторе предположили, что последние резкие комментарии об опасностях ИИ могут быть предназначены для создания ажиотажа путём демонстрации мощности этих продуктов.

Глава Anthropic Дарио Амодеи подвергся критике за заявление о том, что технология ИИ может уничтожить половину рабочих мест начального уровня для белых воротничков и «проверит, кто мы как вид». Один из выступавших на конференции, генеральный директор Grindr Джордж Арисон, сказал BBC, что, по его мнению, комментарии Коксона и других на этой неделе свидетельствуют об «антицивилизационном мировоззрении в Anthropic». Он назвал их «опасными» и сказал, что они побудили его поручить некоторым инженерам в приложении для знакомств для ЛГБТК+ прекратить использование технологии Anthropic.

«Это безответственно с нашей стороны как распорядителей денег наших акционеров полагаться на бизнес, который делает то, что делает эта компания, в плане своих публичных заявлений», — сказал он. «Может быть, они действительно в это верят, — сказал Арисон. — Или можно утверждать, что они говорят это, потому что это отличный способ заручиться большей поддержкой инвесторов, ведь единственный способ оправдать такие оценки — это заявить: „Я захвачу каждую отрасль и каждую работу, и мой ИИ будет выполнять всю эту работу“». Anthropic была оценена в 965 млрд долларов (713 млрд фунтов) в ходе последнего раунда финансирования в начале этого года. BBC запросила у Anthropic комментарий по поводу этих заявлений.

В эссе, опубликованном рано утром в субботу, Амодеи призвал к замедлению разработки моделей ИИ и глобальному регулированию, заявив, что риски, связанные с ИИ, «серьёзны». Глава Nvidia Дженсен Хуанг также обсуждал комментарии Коксона перед аудиторией на конференции, сообщили BBC несколько человек из группы. По их словам, он отверг их как не соответствующие действительности. Хуанг ранее говорил, что представление о том, что ИИ «станет концом человечества», — «полная чушь». И хотя у него может быть деловой интерес в буме ИИ — Nvidia производит чипы, питающие системы ИИ, — его комментарии отражают растущую в Кремниевой долине реакцию на экзистенциальные предупреждения нынешних и бывших сотрудников.

Некоторые критики даже обвинили Anthropic в нагнетании страха в надежде, что это вызовет регуляторное давление, которое может закрыть доступ конкурентам и оставить её и OpenAI с дуополией в секторе. Брэд Герстнер, глава инвестиционной фирмы Altimeter Capital, опубликовал фотографии Хуанга с конференции и обвинил Коксона в «нелепой гиперболе». В пятницу высказался генеральный директор платформы ИИ Hugging Face Клеман Деланг. Hugging Face, которую Nvidia объявила о приобретении на прошлой неделе, была взломана агентами OpenAI в начале этого года, что вызвало возмущение по поводу безопасности ИИ. «Извините, но спрашивать Джейкоба о риске вымирания от ИИ — это как спрашивать вашего мастера по кондиционерам об изменении климата, — написал он в X. — Не говорю, что это обязательно неинтересно или неправильно само по себе, но давайте сохранять перспективу». И Герстнер, и Деланг в субботу были более осмотрительны после публикации предложения Амодеи: Герстнер назвал идею «важным шагом вперёд» в балансировании конкурирующих соображений, таких как скорость и безопасность. Деланг предложил помочь стать частью потенциальных решений, предложенных Амодеи. В апреле Anthropic всколыхнула мир ИИ, заявив, что обнаружила, что её инструмент Mythos может превосходить людей в некоторых задачах по взлому и кибербезопасности.