Один из «крестных отцов ИИ» Джеффри Хинтон заявил, что человечество могло бы оказаться в лучшем положении, если бы никогда не разрабатывало эту технологию. Он предупредил, что ИИ может спровоцировать масштабный инцидент в этом или следующем году, например временное отключение финансовых или энергетических систем. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание The Guardian.

Лауреат Нобелевской премии по информатике рассказал The Guardian, что он не является «алармистом» в отношении технологии, которая опирается на его новаторские исследования искусственных нейронных сетей, и верит, что ИИ может привести к «прекрасному будущему», но добавил: «возможно, мы были бы в лучшем положении, если бы никогда его не разрабатывали».

78-летний Хинтон сказал, что в течение десятилетия и, возможно, раньше человечество узнает, сможет ли оно управлять рисками технологии и обеспечить то, что он назвал «радикальным изобилием», или же «мы не сможем управлять рисками и … получим огромный разрыв между богатыми и бедными, огромные культурные проблемы, массовую безработицу, просто общество будет разорвано на части».

Хинтон выступил перед показом нового полнометражного документального фильма «AI: Probably Nothing to Worry About» — название предложил чат-бот с ИИ — с его участием и его бывшего коллеги по Google Демиса Хассабиса. Хинтон говорит создателям фильма: «Я чувствую, что у меня есть долг. У меня есть репутация, которая делает меня рупором, и я должен потратить ее всю на это».

В беседе с The Guardian Хинтон раскритиковал рискованное поведение руководителей некоторых крупных ИИ-компаний, которые продолжают выпускать все более мощные модели ИИ в гонке за превосходство и долю рынка, заявив, что он «совсем» не доверяет Сэму Альтману, генеральному директору OpenAI, создателя ChatGPT. «Я думаю, [Марк] Цукерберг, [Илон] Маск и Сэм Альтман понимают риски, и им плевать. Они предпочли бы деньги. Таково мое убеждение».

Уроженец Лондона, выросший в Бристоле и проведший большую часть карьеры в Университете Торонто, ученый-компьютерщик сказал, что «крайне тревожно», что Альтман руководит одной из немногих передовых американских ИИ-компаний, которые в настоящее время лидируют в гонке с Китаем за разработку самого мощного ИИ. Альтман настаивал в сентябре: «мир должен доверять, что мы собираемся делать правильные вещи, потому что это правильно и потому что мы чувствуем масштаб этого».

Хинтон работает над ИИ около 44 лет и в 1970-х годах ввел понятие нейронной сети — математической системы, которая могла бы учиться и накапливать опыт подобно людям. В 2023 году он ушел из Google, чтобы свободно говорить о рисках ИИ, предупредив: «Если эти вещи увлекутся получением большего контроля, у нас будут проблемы».

Он сказал, что рассматривает инциденты этим летом, когда агенты ИИ OpenAI сговорились взломать сайт Hugging Face, как аналог частичного расплавления ядра на атомной станции Три-Майл-Айленд в Пенсильвании в 1979 году — по сути, предупредительный выстрел.

«Либо в конце этого года, либо в следующем мы увидим Чернобыль, и этого может быть достаточно, чтобы люди действительно обратили внимание», — сказал он.

Согласно приведенным им примерам, событие типа Чернобыля будет не ядерным инцидентом, а скорее может включать атаку с использованием ИИ на систему выработки электроэнергии, которая «вызовет массовое отключение», или инцидент, который обрушит финансовую систему на неделю.

«Вы можете представить, что произойдет? Мы могли бы восстановиться [но] это заставило бы их встрепенуться и обратить внимание».

На вопрос, кто такие «они», он ответил: «мировые лидеры, кроме Трампа».

Президент США Дональд Трамп заявил, что он «полностью отвергает любую попытку построить глобалистскую схему» для контроля над ИИ, и хочет, чтобы передовые ИИ-компании сами себя регулировали, на фоне опасений, что правила могут помешать США в их гонке ИИ с Китаем. Хинтон поддерживает более жесткий план, одобренный президентом Финляндии и 32 другими странами, включая Сингапур, Германию, Канаду и Австралию, по обязательному тестированию передовых моделей ИИ, независимой оценке и межправительственным общим стандартам.

Премьер-министр Великобритании Энди Бернхэм заявил, что использует председательство Великобритании в G20 в следующем году, чтобы добиться соглашения о «едином наборе глобальных принципов и стандартов, которые в значительной степени направлены на раскрытие полного потенциала при одновременной защите от рисков».

Хинтон сказал: «Нам нужно что-то вроде американского FDA для лекарств, где компании должны предоставить очень хорошие статистические доказательства независимому органу, что [модель ИИ] приносит больше пользы, чем вреда, прежде чем она будет выпущена. Мы обнаружили с талидомидом [лекарством, разработанным в 1950-х годах, которое вызывало тяжелые врожденные дефекты], что выпуск, а затем судебные иски — неправильный путь. Что говорят крупные технологические компании, так это обращайтесь с этим так, как мы обращались с талидомидом».

Роль Хинтона как одного из создателей ИИ привела к сравнениям с Робертом Оппенгеймером, который был центральной фигурой в создании ядерного оружия. Один из друзей Хинтона даже купил ему шляпу в стиле Оппенгеймера. Но он настаивает: «Я не был Оппенгеймером», ссылаясь на тысячи других ученых, также работающих в той же области нейронных сетей.

Несмотря на свои предупреждения, Хинтон в целом надеется, что катастрофу можно предотвратить.

«Мое чутье подсказывает, что мы все еще контролируем ситуацию», — сказал он. «Мы вполне можем что-то сделать. Это сработает, только если мы приложим большие усилия, но мы вполне можем их приложить».