Исследователь искусственного интеллекта Джейкоб Коксон, уволившийся из AI-компании Anthropic, заявил, что люди, работающие над этой технологией, «искренне напуганы» скоростью её развития и тем, что это может означать для человечества. Он дал интервью BBC после того, как его пост об увольнении, посвящённый опасностям ИИ, стал вирусным на фоне растущей обеспокоенности безопасностью в отрасли. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

«Я считаю, что если мы не замедлим текущие темпы прогресса, есть большая вероятность, что мы все можем погибнуть в ближайшем будущем», — сказал он.

Бывший начальник 27-летнего Коксона, глава Anthropic Дарио Амодеи, недавно призвал замедлить развитие ИИ, хотя некоторые усомнились в мотивах этого призыва.

Руководители двух конкурирующих AI-компаний — Сэм Альтман из OpenAI и Илон Маск из xAI — оба заявили, что согласны с предложением Амодеи о замедлении и регулировании на уровне всей отрасли, а также о независимом мониторинге разработки AI-моделей.

Амодеи написал в эссе в субботу, что разработка технологии не ставится под сомнение, но связанные с ней риски «серьёзны», и компаниям и правительствам должно быть дано время для их решения.

Коксон, работавший в OpenAI до прихода в Anthropic, приветствовал предложение о замедлении, но сказал, что оно должно быть скоординировано с Китаем, чтобы избежать «гонки в международном масштабе».

«Люди, работающие в этих компаниях, абсолютно серьёзны, когда просят о регулировании, потому что они чувствуют себя в ловушке гонки. И они боятся её результатов», — сказал он в программе Sunday с Лорой Куэнсберг.

По словам Коксона, самым сложным вопросом было то, как будет выглядеть AI-апокалипсис.

Один из рисков, изложенных в комментариях Амодеи, — это рой ботов, действующих как суперкомпьютер, который может захватить интернет.

Коксон сказал, что этот сценарий может стать реальным через шесть месяцев — год.

В ответ на уход Коксона представитель Anthropic заявил BBC News: «Мы всегда были прозрачны в том, что ИИ принесёт как огромные преимущества, так и беспрецедентные риски».

«Чтобы решить эти риски, мы продолжаем создавать модели с одними из самых сильных мер защиты в отрасли», — добавил представитель.

Компания была пионером в изучении того, как работают AI-модели, добавил представитель. Она первой опубликовала основу для смягчения рисков, связанных с их разработкой, а также «агрессивно» тестирует свои модели и публикует результаты, чтобы помочь проверке и предотвратить инциденты «рассогласования ИИ».

«Эта работа также является причиной, по которой мы считаем, что мир выиграл бы от того, чтобы отрасль приняла законный, проверяемый способ совместной работы для регулирования темпов выпуска мощных моделей», — сказали они.

Коксон сказал, что его коллеги опасаются, что опасность может наступить даже в ближайшие два года.

Он сказал, что сотрудники AI-компаний «планируют, что делать со своей жизнью, и думают о последствиях своей работы», а некоторые «рассматривают покупку земли где-нибудь, потому что они так напуганы нестабильностью в результате быстрого прогресса ИИ».

«Они держат это в голове ежедневно, работая над технологией».

Но у Коксона есть и некоторый оптимизм по поводу будущего ИИ: он сказал BBC, что люди, исследующие технологию, «искренне хотят видеть положительные стороны» таких вещей, как «лечение болезней и улучшение жизни каждого».

Многие другие в отрасли также выразили свою обеспокоенность после поста Коксона в соцсетях, включая учёного Anthropic Эвана Хубингера.

«Мы действительно искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность >10% в течение следующего десятилетия», — сказал Хубингер.

Учёный-компьютерщик и лауреат Нобелевской премии Джеффри Хинтон, известный как «крёстный отец ИИ», сказал BBC в пятницу, что вероятность 10% того, что ИИ убьёт всех людей, «не является неразумной».

Между тем Марк Уорнер, генеральный директор фирмы по безопасности ИИ Faculty, сказал BBC, что «чрезвычайно трудно оценить вероятность» того, что ИИ убьёт всех людей.

«Но важно признать, что эти люди очень искренни в том, что говорят», — добавил он, отметив, что риски, связанные с ИИ, поднимались руководителями нескольких AI-компаний на протяжении многих лет.

Бывший премьер-министр Риши Сунак, являющийся платным советником Anthropic, написал в Sunday Times, что он тоже обеспокоен риском ИИ для человечества, несмотря на общий оптимизм.