Руководители ведущих ИИ-компаний годами предупреждают об экзистенциальных угрозах. В ноябре 2023 года на первом в мире саммите по безопасности ИИ в Блетчли-Парке основное внимание уделялось самым серьезным угрозам, исходящим от самых мощных моделей ИИ. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

В то время многие считали это областью научной фантастики, а реальные угрозы были сравнительно гораздо более приземленными: потеря работы, списывание на экзаменах. Три года спустя многие из тех же голосов, похоже, уже не так уверены.

В субботу глава ИИ-компании Anthropic Дарио Амодеи призвал замедлить темпы развития — руководители двух конкурирующих ИИ-фирм, Сэм Альтман из OpenAI и Илон Маск, заявили, что согласны с ним.

Тем временем исследователь ИИ Джейкоб Коксон, ушедший из Anthropic, в воскресенье сказал BBC, что сотрудники, разрабатывающие системы, «искренне напуганы» за будущее человечества.

Все они складываются в хор серьезных голосов, призывающих к замедлению, но хотя это может звучать как быстрое решение, оно далеко не простое.

США, как широко известно, боятся проиграть гонку за создание самого мощного ИИ Китаю. В воскресенье президент Трамп ясно выразил свое мнение, заявив, что США опережают Китай в гонке ИИ, и заявил: «Кто победит в ИИ, тот победит во всем».

Китай не славится желанием быть вторым. Все, с кем я говорю, говорят, что даже если их компания приостановится, другие не будут, и они просто останутся позади. Это напоминает мне пик кампании за ядерное разоружение. Проблема тогда тоже была в том, что никто не хотел идти первым.

Также возникает вопрос, как вообще можно было бы обеспечить замедление. Кто бы это контролировал? Полагались бы мы на ИИ-компании в том, что они прозрачны в своих действиях, и, что важнее, в том, что они решают не делать? Это потребовало бы эпического уровня доверия, которое технологический сектор, возможно, никогда не заслуживал.

Хотя Амодеи в своем посте предложил трехпунктный план, включающий независимый мониторинг моделей ИИ по мере их разработки, отраслевое регулирование и глобальное регулирование, некоторые наблюдатели сомневаются, как это будет работать на практике.

«Никто не дал содержательного объяснения, что означает „замедление“», — сказал Эд Зитрон, генеральный директор EZ Primary Research.

«Поставить сотрудника из METR, куда ушел один из тех, кто покинул Anthropic, в каждую ИИ-компанию? Демократическая и глобальная „координация“? Для меня это ничего не значит».

Зитрон сказал, что остановка обучения моделей ИИ сделает их уязвимыми для китайских конкурентов.

«Их маржа может улучшиться, но их продукты будут законсервированы в янтаре и переработаны китайскими лабораториями. Возможно, им придется изменить цены. Я действительно не знаю, как все это работает.

Это может лопнуть пузырь. Но прямо сейчас мы очень мало знаем о том, что означает „замедление“».

В Великобритании мы слышали о планах более широкого внедрения технологии в NHS для улучшения ухода за пациентами, а также о том, как ИИ дал столь необходимый импульс экономике Великобритании летом. Нас всех призывают использовать его все больше на работе, в образовании и в личной жизни.

Отрасль является ключевой частью стратегии Великобритании по стимулированию экономического роста. «Плана Б нет», — сказал мне бывший правительственный советник, так может ли замедление разрушить будущие перспективы здесь, в Британии?

ИИ-индустрия сжигает огромные amounts денег и природных ресурсов и пока не создает nearly столько же доходов. Есть множество сообщений о том, что ряд фирм, внедряющих технологию, разочарованы ею.

Экономисты широко предполагают, что даже нынешние гиганты не все выживут, и что грядет некое «выравнивание» — также известное как лопающийся пузырь. Но те фирмы, которые выживут, могут стать самыми могущественными мега-корпорациями, которые когда-либо видел мир, и это несет свои проблемы.

Решение OpenAI приостановить свой выход на фондовый рынок можно рассматривать как момент прозрения и принятия ответственности за общественную безопасность — но это также может быть шагом компании, которая осознала, что может не получить необходимую прибыль, пока весь ее продукт воспринимается как смертоносный.

«Одна из, вероятно, самых больших проблем, которые у нас есть сейчас, — это то, что никто не может с уверенностью предсказать, как будет развиваться эта технология», — говорит Александр Войку из британской ИИ-компании Synthesia.

«Мы знаем, что эти системы становятся мощнее, но мы не знаем, где и как они будут использоваться, и мы не нашли по сути способа полностью использовать их потенциал. Меня беспокоит только то, что спешка с регулированием сейчас, когда остается много открытых вопросов, может на самом деле дать обратный эффект».

Мы также не можем отрицать тот факт, что в основе всей этой технологической революции лежит океан инвесторских денег.

«Я не беспокоюсь об экзистенциальных рисках ИИ, я беспокоюсь о корпоративной жадности компаний, которые его создают», — говорит Саша Луччиони, основатель Sustainable AI.

Ведущий ученый-компьютерщик профессор Дейм Венди Холл, консультировавшая ООН по ИИ, говорит, что нынешний кризис связан с тем, что компании недостаточно ответственно себя ведут.