Президент США Дональд Трамп назвал опасения по поводу безопасности искусственного интеллекта (ИИ) «обманом», раскритиковав призывы к усилению защиты для быстро развивающейся технологии. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.
Это заявление прозвучало после того, как соучредитель гиганта в сфере ИИ Anthropic Джек Кларк сказал BBC, что «выключатель» для опасного ИИ, который может быть проверен третьей стороной, возможно, должен стать обязательным для отрасли. Комментарии Кларка последовали за предупреждениями о рисках, которые технология представляет для человечества, озвученными в последние дни несколькими руководителями и сотрудниками ведущих ИИ-компаний.
Эти опасения вызвали распродажу акций некоторых технологических компаний в понедельник, поскольку инвесторы оценивали влияние возможного замедления развития ИИ.
В серии постов в социальных сетях в понедельник президент США сравнил предупреждения об ИИ с «мошенничеством глобального потепления», которое, по его словам, «совершается радикальными левыми демократами». Трамп также назвал себя «разоблачителем обмана», уподобив опасения по поводу безопасности технологии тому, что он назвал «РОССИЯ, РОССИЯ, РОССИЯ ОБМАН».
В другом посте он написал: «Против ИИ и дата-центров ведётся БОЛЬНОЙ заговор, и единственный, кто этому рад, — это Китай. КТО ПОБЕДИТ В ИИ, ТОТ ПОБЕДИТ!»
Ранее в понедельник Трамп написал в социальных сетях, что единственным «ограждением», необходимым для ИИ, является «сильный и умный» президент.
Также в понедельник китайские государственные СМИ сообщили, что эксперты предупредили: «растущая тревога Вашингтона по поводу быстрого развития ИИ в Китае, по-видимому, всё больше искажает его политические приоритеты». «Они знают, что Китай стал сильным конкурентом в области ИИ, и беспокоятся, что если США замедлят развитие или ужесточат регулирование, Китай сможет догнать ещё быстрее», — сказал Синь Цян, профессор американистики Фуданьского университета, газете Global Times.
Кларк, один из семи соучредителей Anthropic, ранее в понедельник сказал, что способ полностью отключить программное обеспечение ИИ, если оно станет слишком опасным, — это то, вокруг чего общество «возможно, захочет в конечном итоге принять правила». Он добавил, что «у большинства лабораторий есть разные способы выдернуть вилку», включая Anthropic, но законодателям, возможно, придётся обязать иметь такой способ.
Комментарии Кларка пополняют растущее число представителей технологической индустрии и политических деятелей, призывающих к лучшим мерам защиты. В понедельник Microsoft AI стала последней крупной компанией, обсудившей ограничение разрабатываемых ею моделей, опубликовав документ о том, что она назвала «гуманистическим ИИ». Главный исполнительный директор компании Мустафа Сулейман сказал бизнес-каналу CNBC, что компания работала над новым руководством месяцами и решила опубликовать его сейчас из-за текущих дебатов вокруг технологии.
В знак того, насколько опасения по поводу технологии оказались в центре внимания, две высокопоставленные фигуры с противоположных сторон американской политики выступят на одном мероприятии с призывом пересмотреть политику в области ИИ. Бывший главный стратег Трампа Стив Бэннон и ветеран-прогрессивный сенатор Берни Сандерс должны выступить на «Pro-Human Assembly» в Вашингтоне во вторник. Согласно его веб-сайту, собрание «направлено на определение общего видения и формулирование лучшего, более человекоцентричного пути для развития ИИ».
Сандерс сказал BBC Newsnight на прошлой неделе, что «мы должны немедленно что-то сделать, чтобы остановить неконтролируемый рост ИИ». «У вас есть экзистенциальная угроза возможности уничтожения человечества», — сказал он.
Дебаты о потенциальных опасностях технологии усилились в последние дни после вирусного поста Джейкоба Коксона, исследователя, покинувшего Anthropic из-за опасений, что ИИ может уничтожить человечество. В ответ учёный Anthropic Эван Хубингер сказал, что, по его мнению, вероятность того, что ИИ вызовет вымирание человечества «в течение следующего десятилетия», превышает 10%.
В эти выходные главный исполнительный директор Anthropic Дарио Амодеи призвал замедлить темпы развития ИИ и более внимательно следить за ним, как компания делала и раньше, хотя некоторые подвергли сомнению мотивы этого. Амодеи также сказал, что любые действия по сдерживанию ИИ должны осуществляться «без ущерба для коммерческого преимущества».
Руководители двух конкурирующих ИИ-компаний, Сэм Альтман из OpenAI и Илон Маск из xAI, также заявили, что согласны с предложением Амодеи о замедлении и регулировании в масштабах всей отрасли, а также о независимом мониторинге разработки моделей ИИ.