Если вы пользовались бесплатной версией ChatGPT или его конкурентов, то вы явно получаете выгодную сделку. Такие компании, как Microsoft, Google и Anthropic, вложили сотни миллиардов долларов в разработку больших языковых моделей (LLM) — технологии, лежащей в основе этих сервисов. Об этом сообщает портал Qazaqyia.kz со ссылкой на издание BBC News.

Поэтому получить помощь ChatGPT, Claude или Gemini в подготовке речи или планировании отпуска — это выгодно. Но, естественно, эти фирмы хотят вернуть свои инвестиции, поэтому они предлагают платные версии своего ИИ с дополнительными функциями для таких задач, как написание кода или выставление счетов.

Тем временем сторонние фирмы создают и продают сервисы на основе ИИ-агентов, обычно основанных на LLM, которые обучены выполнять конкретные задачи. Но установить цену на эти услуги на удивление сложно.

«Пытаться привязать кого-то к модели затрат на следующие 12 месяцев, два года, три года — это бессмысленно, честно говоря, потому что мы не знаем», — говорит Саймон Гуч из Saviynt, компании по управлению идентификацией, которая внедряет агентный ИИ в свои сервисы.

Это связано с быстро меняющейся экономикой токенов — строительных блоков LLM и агентного ИИ. Когда пользователь задает вопрос LLM, такой как ChatGPT или Claude от Anthropic, этот запрос разбивается на математические части, называемые токенами, которые могут быть обработаны моделью. Ответ LLM также поступает в виде токенов, которые преобразуются обратно в текст, программный код или набор команд для автоматизации процесса.

Проблема в том, что этот процесс не полностью предсказуем. Тонкие изменения в запросе могут привести к разным ответам. Один и тот же запрос не всегда дает одинаковый ответ. Разные модели дают разные ответы. А в агентных системах компании используют несколько ИИ-агентов вместе для принятия решений и действий, что еще больше увеличивает использование токенов и непредсказуемость.

Хотя стоимость отдельных токенов (или кредитов, используемых для их оплаты) резко упала за последние годы, согласно анализу Goldman Sachs, количество токенов, потребляемых бизнесом и потребителями, резко возросло. Банк прогнозирует, что потребление токенов увеличится в 24 раза в период с 2026 по 2030 год и достигнет 120 квадриллионов токенов в месяц, поскольку компании переходят на использование ИИ-агентов.

Но компании и частные лица, использующие системы ИИ, часто смутно представляют, сколько токенов они сжигают, пока они не закончатся или не придет ежемесячный счет. Сообщается, что даже Microsoft ограничила использование своими инженерами некоторых сторонних инструментов для написания кода, а Uber, судя по всему, израсходовал свой годовой бюджет токенов на ИИ-кодирование за несколько месяцев в начале этого года.

Уилл Вентерс, доцент Лондонской школы экономики по цифровым инновациям и информационным системам, сказал, что компании могут столкнуться с проблемами при экспериментировании или внедрении ИИ внутри компании, поскольку сотрудники сжигают токены. «Людям очень трудно управлять этими затратами... это недетерминированный результат, поэтому это недетерминированная ценность», — сказал он.

Компании находят способы обойти это. Оливер Кинг-Смит, основатель инженерной программной фирмы smartR AI, говорит, что небольшие организации могут «оставаться незамеченными и использовать личные аккаунты с фиксированной платой, которые, я уверен, крупным поставщикам не нравятся». Но, говорит он, «это должно когда-нибудь закончиться, потому что крупные игроки несут убытки на этих счетах».

Как только крупные ИИ-платформы столкнутся с давлением со стороны акционеров, требующих прибыли, он прогнозирует: «Они начнут закручивать гайки». Кинг-Смит также говорит, что компаниям следует более тщательно продумывать, какие модели ИИ использовать.

Компаниям также необходимо быть более точными в своих запросах, говорит Роб Стил, финансовый директор британской бухгалтерской фирмы iplicit. «Вы бы не отправили кого-то из своей семьи за еженедельными покупками без подробных инструкций о том, что вы ожидаете в этой корзине, верно?»

Ситуация может выйти из-под контроля, когда компании встраивают ИИ в продукт, который может быть развернут для тысяч пользователей, отмечает Вентерс.