Глава подразделения Microsoft AI Мустафа Сулейман предупредил, что без надлежащих мер защиты развитие искусственного интеллекта может привести к появлению нового «кремниевого вида», конкурирующего с людьми. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Сулейман раскритиковал конкурирующую компанию Anthropic за то, что она относится к ИИ как к человеку. Он назвал такой подход «ошибочным» и способным создать технологию, которую человечество не сможет контролировать. Выступая в программе Today на BBC, он заявил, что людям «правильно» беспокоиться об ИИ, но существуют «очень практичные вещи, которые мы можем сделать» для его контроля.

Это заявление стало очередным в серии резких предупреждений от представителей индустрии ИИ о возможных опасностях технологии. Anthropic была запрошена для комментария.

Сулейман предостерег компании от продолжения создания ИИ-систем, способных ставить собственные цели, зарабатывать деньги и владеть активами. По его словам, это означало бы «по сути, посев нового кремниевого вида», который «несомненно, может конкурировать с нами за ресурсы, независимо от того, насколько он заботится о человечестве и любит нас».

Комментарии Сулеймана для BBC последовали за его эссе, опубликованным ранее на этой неделе, в котором он поставил под сомнение подход Anthropic к обучению своей модели Claude, несмотря на похвалу в адрес руководителя Дарио Амодеи и его команды как «интеллектуально честных людей». В нем он критиковал Anthropic за обучение своего ИИ человекоподобным качествам — практику, известную как антропоморфизация, которая, по его словам, создает впечатление, будто у Claude есть собственные желания, ценности и чувство собственного «я».

Он также предупредил, что технологические компании рискуют создать нечто «невозможное» для контроля, относясь к технологии как к человеку. «Они не чувствуют, не переживают и не страдают. У них нет врожденных предпочтений или глубинных мотиваций. Они — механизмы завершения последовательностей, внутренне пустые, предназначенные для выполнения инструкций и достижения целей, поставленных людьми».

Глава Microsoft заявил о необходимости большей прозрачности в отношении того, как обучаются и оцениваются ИИ-системы. По его словам, это включает независимую проверку поведения ИИ и более мощные инструменты для мониторинга и контроля технологии. «Мы не должны, как лунатики, прийти к решению, о котором позже горько пожалеем», — написал он.

Дама Венди Холл, профессор компьютерных наук Саутгемптонского университета, назвала эти комментарии «тем разговором, который нам нужно вести на международном уровне», противопоставив их «истерике» некоторых ИИ-компаний, которая, по ее словам, лишь «пугает всех».

Вопрос о том, какой степенью автономии должны обладать ИИ-системы, все больше разделяет индустрию. Говоря с BBC о предстоящем саммите по ИИ, Сулейман призвал к «выравниванию» для создания технологии, которая должна быть «подчинена» человечеству. Выравнивание — это область, целью которой является внедрение человеческих этических идей и принципов в ИИ. Иными словами, она направлена на то, чтобы ИИ соответствовал тому, что ценят люди.

«Я думаю, хорошая новость здесь в том, что каждый человек будет иметь очень сильную заинтересованность в том, чтобы системы, которые мы все создаем и которые используются по всему миру в каждой стране, были безопасными, контролируемыми и подчиненными человечеству», — сказал он.

Microsoft основала свою команду суперинтеллекта в октябре 2025 года, и компания, как и ее конкурент Anthropic, также стремится к разработке передового ИИ. Комментарии Сулеймана отражают первоначальный проект Кодекса поведения гуманистического ИИ Microsoft — «учебного пособия», опубликованного в понедельник, о том, как компания развивает свой ИИ, в котором изложена идея «гуманистического суперинтеллекта». Этот кодекс гласит, что это «очень продвинутый ИИ, который всегда работает для людей, остается в пределах ограничений и остается под контролем человека».

Видение компанией «гуманистического» ИИ подчеркивает центральную проблему, стоящую перед технологией — как сделать ее более мощной, не упуская из виду ценности, которым она должна служить.