Глава компании OpenAI, создателя ChatGPT, Сэм Альтман заявил, что люди должны больше доверять его фирме и другим подобным компаниям в вопросах разработки искусственного интеллекта (ИИ) на фоне растущей обеспокоенности общественности по поводу рисков. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

«Мир должен доверять тому, что мы поступим правильно, потому что это правильно, и мы ощущаем всю масштабность этого», — сказал Альтман во вторник на конференции в Сан-Франциско.

Однако Альтман отметил, что опасения людей по поводу ИИ оправданы, поскольку возможности инструментов стремительно растут.

Тем временем в Вашингтоне сенатор-лейборист Берни Сандерс и бывший советник Трампа Стив Бэннон призвали к усилению управления ИИ.

Комментарии Альтмана прозвучали во время его выступления на ежегодной конференции, организованной компанией-разработчиком ПО Salesforce.

«Нам уже не требуется столько воображения, как раньше, чтобы представить, как это может пойти не так», — сказал он. «Я считаю, что мир вправе этого бояться».

Это было его первое публичное выступление после того, как на прошлой неделе стало вирусным сообщение исследователя, уволившегося из ИИ-компании Anthropic. Исследователь утверждал, что ИИ может убить всех людей к концу десятилетия, если его не контролировать.

Несколько других руководителей ИИ-компаний и экспертов ответили, что согласны с этой оценкой, хотя не объяснили, как они пришли к таким выводам или как именно ИИ может это сделать.

Ажиотаж вокруг этих заявлений привел к усилению scrutiny разработки ИИ в последние дни, и в ответ генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы всех разработок ИИ и призвал правительства регулировать отрасль.

Этот пост поддержали Альтман, а также соучредитель Google DeepMind Демис Хассабис и Илон Маск, владелец социальной сети X и ИИ-ассистента Grok.

К вторнику все больше лидеров ИИ высказывались за саморегулирование, а не за участие правительства.

Альтман сказал, что чувствует, что такие ИИ-компании, как его, способны по сути регулировать себя сами.

«Мы сделаем это правильно, я очень уверен в способности нашей компании и отрасли сделать это безопасно», — сказал Альтман, добавив, что уверен, что они будут «держать согласованность и безопасность намного впереди возможностей», и если не смогут, то «замедлятся или остановятся».

Несмотря на эти заверения, политические деятели предостерегли от саморегулирования.

Берни Сандерс, независимый сенатор от Вермонта, голосующий с демократами, заявил, что решения о развитии ИИ принимаются «горсткой самых богатых людей мира», назвав среди прочих Илона Маска, главу Meta Марка Цукерберга и основателя Amazon Джеффа Безоса.

Выступая на конференции в Вашингтоне, он сказал: «Народ этой страны должен принимать решения об ИИ, а не просто горстка олигархов».

Бэннон, работавший стратегом Белого дома во время первого срока Трампа, также усомнился в способности технологической отрасли к саморегулированию.

«Мы никогда не можем доверять тому, что говорит олигарх, потому что... они неискренни и лгут», — сказал Бэннон на той же конференции.

После комментариев Альтмана Марк Цукерберг написал в X, что у каждой ИИ-лаборатории есть способность и стимул «предпринимать собственные действия» для создания инструментов и моделей ИИ, разработанных с учетом безопасности.

«Любая лаборатория, которая не сосредоточится на согласованности, отстанет», — написал Цукерберг. «Лаборатории несут значительную ответственность, если их модели причиняют вред, поэтому у них также есть сильный стимул предотвращать это».

Дженсен Хуанг, глава Nvidia, также заявил на той же конференции во вторник, что ИИ-компании должны решать, выпускать ли новые версии технологии, а не управляться внешними силами.

«Нам не нужны новые законы или правила», — сказал Хуанг, добавив, что не должно быть «ложного выбора» между скоростью инноваций и безопасностью продуктов ИИ.

Nvidia — крупнейшая компания в мире по оценке стоимости, ее прибыль резко выросла благодаря ажиотажному спросу на производимые ею чипы для ИИ-вычислений.

«Безопасность превыше всего. Однако безопасность — это инженерная проблема», — сказал Хуанг.

Он добавил, что если в какой-то момент руководитель ИИ-компании не уверен в своем продукте, он должен выбрать не выпускать его.

«Это очень очевидная вещь», — сказал Хуанг. «Бегите так быстро, как можете, но если в какой-то момент вы почувствуете, что учреждение не контролирует ситуацию, сделайте паузу».