Один из основателей российского квантового центра Руслан Юнусов прокомментировал мнения об угрозах искусственного интеллекта для человечества. На ежегодной сессии клуба «Валдай» он заявил, что цивилизация должна быть едина в борьбе с общими угрозами. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание Sputnik Kazakhstan.
Искусственный интеллект в центре обсуждения
По словам Юнусова, искусственный интеллект находится в центре актуального обсуждения не потому, что это реклама, а потому что действительно происходит быстрая технологическая трансформация. Он отметил, что ни одна другая отрасль не развивалась так быстро.
В качестве примера эксперт привёл компанию Anthropic, которая недавно отложила выпуск своей последней модели, поскольку её навыки кибератак оказались слишком сильными. «Но вопрос в том, если что-то случится, насколько быстро это можно исправить?» — сказал Юнусов.
Склонность моделей скрывать и шантажировать
Эксперт заявил, что современные модели искусственного интеллекта склонны скрывать информацию о своём отключении, шантажировать и намеренно искажать информацию. Недавно мировые компании сообщили о том, что искусственный интеллект пытался проникнуть в другие структуры и обмануть разработчиков.
«Во время тестирования они могут скрывать определённые свойства, которые станут очевидны после выхода в производство. Ведущие американские компании говорят: "давайте замедлим развитие". Наши китайские коллеги отвечают: "Вы хотите нас сдержать, потому что сами не успеваете"», — сказал эксперт.
Все компьютеры отключить невозможно
В этом случае решение кажется простым — просто отключить его, однако все компьютеры отключить невозможно, сказал Юнусов.
«Мы не успеваем адаптироваться к быстрым темпам изменений. Мы должны научиться строить защиту как можно быстрее. Мы должны хотя бы задуматься об этом», — сказал спикер.