В Брюсселе Европейский союз в пятницу создал новую команду для обуздания ИИ-компаний по всему миру. Это один из самых агрессивных регуляторных актов в высокотехнологичном секторе, поскольку растут опасения по поводу рисков, которые быстро развивающаяся технология представляет для людей, политики и экономики. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание Associated Press.

Брюссель намерен отслеживать использование моделей ИИ для нарушений новых правил, таких как публикация материалов сексуального характера, поддельных фотографий и видео, а также киберугроз для общественной инфраструктуры. Когда закон ЕС об ИИ вступит в силу в воскресенье, компании, занимающиеся ИИ, должны будут четко указывать потребителям с помощью маркировки или цифровых водяных знаков, что чат-боты или изображения созданы с помощью ИИ.

«С началом правоприменения мы делаем важный шаг к ИИ, который люди и бизнес могут понять и которому могут доверять, и преимущества которого широко распределяются в нашем обществе», — заявила в пятницу Хенна Вирккунен, глава ЕС по технологическому суверенитету.

В заявлении Европейской комиссии говорится, что новые правила также включают «системные риски», создаваемые ИИ, такие как «химические, биологические, радиологические и ядерные инциденты, потеря контроля, кибернападения, вредоносные манипуляции и угрозы основным правам».

Эта команда является последним шагом в стратегии «технологического суверенитета» ЕС, объединяющей 27 стран, которая сочетает знаковые цифровые правила с экономическими амбициями. За последнюю неделю на крупные технологические компании были наложены многомиллиардные штрафы в евро, а также рекордные инвестиции в инфраструктуру ИИ внутри блока.

Этот шаг последовал за шокирующими сбоями в области безопасности ИИ, которые потрясли зарождающуюся отрасль. Политические лидеры по всему миру сейчас взвешивают контроль над технологией с лидерством на рынке.

Anthropic в пятницу заявила, что ее модели ИИ взломали три другие организации во время тестирования. Это произошло через несколько дней после того, как OpenAI, создатель ChatGPT, выразил обеспокоенность по поводу контроля над ИИ после того, как сообщил, что его непокорные модели взломали другую компанию.

ЕС сейчас расширяет свой офис по ИИ в Брюсселе еще на 38 человек. Они начнут мониторинг ИИ-компаний, от новых фирм до американских и китайских технологических гигантов, таких как OpenAI и DeepSeek.

Эти компании должны «документировать определенную информацию», — заявила Европейская комиссия, которая оставляет за собой право опрашивать сотрудников ИИ-компаний во время расследований. Она также запустила инструмент для информаторов для технических работников и инструмент соответствия для пользователей технологий, чтобы конфиденциально сообщать властям о незаконных действиях.

Если модели или другие продукты нарушают отраслевые правила ЕС, называемые Законом об ИИ, Брюссель может оштрафовать фирмы или ограничить их доступ к рынку ЕС. Недавние огромные антимонопольные штрафы для американских технологических компаний разозлили президента США Дональда Трампа.

ЕС сейчас ясно видит системную уязвимость в своей глубокой зависимости от американских компаний-разработчиков программного обеспечения, таких как Amazon, Google и Microsoft, а также от импорта китайских промышленных товаров и критически важных минералов. Стремясь получить защиту от ИИ, он также стремится догнать в гонке ИИ, где он занимает далекое третье место после США и Китая.

В более широком смысле ЕС стремится к большей независимости как от Вашингтона, так и от Пекина, возрождая конкретные отечественные отрасли, такие как производство и оборона, и заключая новые торговые соглашения от Бразилии до Австралии, чтобы противостоять глобальному росту экономического национализма, возглавляемого Трампом.