Компания Anthropic выпустила версию инструмента искусственного интеллекта, который ранее считался 'слишком мощным для публичного выпуска'. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Claude Fable 5 — это версия программы Anthropic Claude Mythos, которая вызвала серьезные опасения среди лидеров технологий, финансов и правительств, когда была выпущена в частном порядке в апреле для предварительного просмотра и тестирования.

Некоторые опасаются, что инструмент настолько мощный, что может представлять угрозу финансовой безопасности, хотя другие сомневаются, насколько это маркетинговый ход.

Anthropic заявила во вторник, что Fable будет выпущен с мерами безопасности и ограничениями для пользователей, но добавила, что 'выпуск такой мощной модели сопряжен с рисками'.

'Возможности Fable превосходят возможности любой модели, которую мы когда-либо делали общедоступной', — добавила компания.

Когда Mythos был впервые представлен небольшой группе организаций для предварительного просмотра, Anthropic заявила, что делает это из-за того, что инструмент настолько интеллектуален, что может быть опасен из-за своей способности эксплуатировать или взламывать компьютерные системы.

Министр финансов Канады Франсуа-Филипп Шампань заявил BBC в апреле, что внимание к Mythos было оправдано, отчасти из-за 'неизвестного неизвестного'.

Между тем, несмотря на продолжающийся судебный процесс Anthropic против Министерства обороны США из-за отказа в использовании ее инструментов ИИ правительством, американские правительственные агентства также тестируют Mythos.

Ожидается, что Anthropic скоро станет публичной компанией, поскольку ее частная оценка приблизилась к $1 трлн (£747 млрд). Постоянная демонстрация лучших и более широких возможностей ИИ подчеркивает ее ценность для инвесторов.

Компания также заявила во вторник, что примерно 150 групп, получивших доступ к предварительному просмотру Mythos, теперь будут иметь доступ к Claude Mythos 5, который не имеет ограничений по кибербезопасности или биологии, в зависимости от конкретного использования организации.

На сегодняшний день группы и компании, использующие Mythos, сообщили Anthropic о обнаружении более 10 000 критических уязвимостей безопасности в своих системах.

Anthropic заявила, что обновленный доступ ограничен 'небольшой группой киберзащитников и поставщиков инфраструктуры', но ожидается, что вскоре он выйдет за эти рамки.

'Мы намерены расширить доступ к Mythos 5 через более широкую программу доверенного доступа', — заявила компания.

И Fable, и Mythos, которые по сути являются одной и той же моделью, но с разными мерами безопасности и уровнями доступа, могут работать 'без присмотра' над командами человека, которые им даются, в течение более длительных периодов времени, 'чем любые предыдущие модели Claude'.

Сооснователь Anthropic Джек Кларк на прошлой неделе заявил BBC Newsnight, что возможности инструментов ИИ расширяются настолько быстро, что компания считает, что у общественности должна быть возможность замедлить развитие технологии.

'Вы хотите иметь возможность убрать ногу с газа и нажать на тормоз. Сейчас в индустрии ИИ есть педаль газа, но нет педали тормоза', — сказал Кларк.