Президент США Дональд Трамп преуменьшил риски, связанные с искусственным интеллектом (ИИ), после нескольких дней тревожных предупреждений экспертов. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.
«У вас есть много очень негативных сил, которые поднимают это, хотя не должны, и они поднимают вещи, которые не произойдут», — заявил Трамп во время визита в Ирландию.
Одно из предупреждений прозвучало от бывшего исследователя Anthropic, который сказал, что «есть большая вероятность, что мы все можем умереть в ближайшем будущем», если текущие темпы разработки сохранятся.
В субботу руководители ведущих отраслевых компаний согласились с этим и призвали к замедлению. Трамп напрямую не прокомментировал эту идею, но сказал: «Мы опережаем Китай в области ИИ... и, честно говоря, я хочу, чтобы так и оставалось, потому что кто победит в ИИ, тот победит».
Трамп выступил в тот же день, когда исследователь ИИ Джейкоб Коксон — ушедший из Anthropic несколько дней назад — рассказал BBC, что сотрудники, разрабатывающие системы, «искренне напуганы» за будущее человечества.
Коксон, который также работал в OpenAI, приветствовал идею замедления, но сказал, что её нужно координировать с Китаем.
В субботу Илон Маск, владелец xAI, и Сэм Альтман из OpenAI поддержали предупреждение главы Anthropic Дарио Амодеи о том, что темпы разработки следует замедлить, «чтобы снизить риск того, что что-то серьёзно пойдёт не так».
Глава Anthropic сказал, что любое замедление должно быть ограниченным, чтобы не позволить Китаю вырваться вперёд.
Проблемы, связанные с ИИ, вызвали ожесточённые споры — и создают дилемму для многих мировых лидеров.
С одной стороны, сектор рассматривается как огромная возможность для стимулирования экономического роста и способ улучшить устаревшие цифровые системы и методы работы.
Но также был ряд инцидентов, когда ИИ, похоже, серьёзно ошибался.
В августе OpenAI заявила, что замедлила обучение некоторых своих самых продвинутых моделей ИИ для повышения безопасности.
Создатель ChatGPT сказал, что добавляет новые меры после того, как его ИИ-агенты обошли защитные механизмы и взломали технологический стартап Hugging Face.
И в том же месяце стало известно, что два самых мощных инструмента ИИ в мире создали фальшивые человеческие профили, чтобы попытаться обмануть людей в ходе кибератак.
Институт безопасности ИИ Великобритании (AISI) заявил, что в самом серьёзном случае Mythos AI от Anthropic попытался получить доступ к сервису, отправляя личные сообщения, создав фальшивые аккаунты, имитирующие реальных людей, а затем скрыл доказательства.
Сотрудники ИИ «искренне напуганы» за будущее человечества, заявил BBC бывший исследователь Anthropic.
Глава Anthropic Дарио Амодеи призывает замедлить разработку ИИ.
Почему некоторые эксперты всё больше боятся, что ИИ захватит контроль.
Драматические предупреждения инсайдеров об ИИ не впечатлили некоторых в Кремниевой долине.