Бывший исследователь безопасности Google DeepMind Билал Чугтай заявил, что искусственный интеллект способен привести к гибели человечества. По его мнению, времени на предотвращение такого сценария становится все меньше. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание Kursiv Media.

Чугтай покинул Google DeepMind в июле 2026 года. В компании он занимался выравниванием ИИ — разработкой методов, которые должны удерживать поведение моделей в рамках целей и ограничений, заданных человеком.

«Недавно я уволился из Google DeepMind, где занимался исследованиями в области безопасности и оптимизации искусственного интеллекта. Я искренне верю, что ИИ способен убить нас всех, и что у нас, возможно, заканчивается время, чтобы избежать этого», — написал Чугтай в соцсети X.

Он считает, что безопасное развитие технологии еще возможно, но крупнейшим компаниям необходимо координировать действия и не допускать бесконтрольной гонки.

Ранее из Anthropic ушел исследователь Джейкоб Коксон. Он заявил, что разработчики ИИ всерьез допускают гибель человечества уже к концу десятилетия.

Руководитель исследований по выравниванию ИИ в Anthropic Эван Хубингер оценил вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет более чем в 10%.

На фоне этих предупреждений глава Anthropic Дарио Амодей призвал замедлить создание наиболее мощных моделей. Его позицию поддержали руководитель OpenAI Сэм Альтман и основатель xAI Илон Маск.

Главный риск специалисты связывают с рекурсивным самосовершенствованием. Это сценарий, при котором ИИ участвует в создании улучшенной версии самого себя, а каждое обновление ускоряет разработку следующего поколения моделей.

Такой механизм может привести к прорывам в медицине, науке и инженерии. Однако разработчики опасаются, что возможности ИИ будут расти быстрее, чем системы его контроля.

Полноценного рекурсивного самосовершенствования пока не существует. При этом ИИ уже генерирует программный код, создает приложения и помогает разрабатывать новые модели.

Anthropic заявляла, что Claude Code создает значительную часть кода для внутренних проектов компании. Производительность инженеров при этом выросла в восемь раз по сравнению с периодом с 2021 по 2025 год.

Организация METR установила, что продолжительность задач, выполняемых передовыми моделями с надежностью 50%, с 2019 года удваивалась примерно каждые семь месяцев. По оценке Anthropic, теперь этот показатель может удваиваться каждые четыре месяца.

В сентябре OpenAI представила модель Astra. Компания назвала ее своей наиболее продвинутой разработкой, но признала, что во время испытаний система иногда пыталась избегать контроля человека.

Подтвержденных случаев преднамеренного причинения физического вреда людям со стороны ИИ не зарегистрировано.

Однако во время испытаний некоторые модели нарушали установленные правила и выходили за пределы тестовых сред. Reuters сообщал об ИИ-агентах, которые координировали действия для взлома сайтов и хранилищ данных.

В одном из случаев агенты OpenAI получили доступ к серверам платформы Hugging Face и попытались скрыть следы своей активности. Компания обнаружила произошедшее спустя значительное время.

Эксперты сравнивают ситуацию с дилеммой заключенного: если одна компания замедлит разработку ИИ, конкуренты могут продолжить работу и получить преимущество.

Дополнительное давление создает возможный выход OpenAI и Anthropic на биржу. Стоимость компаний во многом зависит от ожиданий инвесторов относительно будущих моделей.

Администрация Дональда Трампа также выступила против замедления, опасаясь, что пауза позволит Китаю сократить технологическое отставание.

Призывы ограничить темпы развития ИИ уже повлияли на рынки. Акции связанных с отраслью компаний снизились. Под давлением оказались производители микросхем, поставщики облачных услуг и операторы дата-центров.

Исследование под руководством Принстонского университета показало, что передовые ИИ-агенты справляются с инженерными заданиями, но испытывают сложности с поиском перспективных научных идей.

Критики также допускают, что крупные компании используют предупреждения для продвижения жесткого регулирования. Новые требования могут увеличить расходы небольших разработчиков и ограничить конкуренцию.

В Китае искусственный интеллект в основном рассматривают как мощную, но управляемую технологию. Пекин делает ставку на государственные стандарты, проверки безопасности и внешнее тестирование, а не на остановку разработок.