Підприємства скорочують витрати на ШІ, оскільки рахунки за токени перевищують зростання продуктивності

Компанії, які протягом минулого року активно заохочували співробітників максимально використовувати інструменти ШІ, тепер стикаються з труднощами в управлінні витратами.  

Фінансові директори (CFO) вимагають вимірюваної віддачі від постійно зростаючих рахунків за API, що ставить під загрозу прогнози зростання OpenAI, Anthropic та інших постачальників великих мовних моделей.  

Чому компанії раптово скорочують витрати на ШІ? 

Компанії скорочують витрати на ШІ, оскільки фінансові директори вимагають обґрунтування роздутих рахунків за API. Це відступ знаменує кінець того, що галузь охрестила «tokenmaxxing», і корекція відбувається стрімко.

Amazon нещодавно демонтував внутрішній рейтинг, що відстежував використання ШІ співробітниками, після того як керівництво дійшло висновку, що система генерує більше безкорисної роботи на основі ШІ, ніж корисних результатів. «Будь ласка, не використовуйте ШІ заради самого використання ШІ», — сказав співробітникам старший віцепрезидент Amazon. 

Uber витратив весь свій бюджет на кодування з ШІ на 2026 рік за чотири місяці, а Meta надіслала внутрішній меморандум приблизно 6 000 співробітників, де йшлося про «експоненційне зростання» використання ШІ та попереджалося, що компанія зіштовхнулася з мільярдними внутрішніми витратами на ШІ. Відтоді Uber запровадив щомісячний ліміт витрат на інструменти кодування з ШІ у розмірі 1 500 доларів на одного співробітника.

Консалтинговий гігант Accenture раніше попереджав співробітників, що вони можуть «ризикувати втратити можливість підвищення», якщо не почнуть використовувати інструменти ШІ. Тепер Accenture намагається зупинити персонал від використання ШІ для тривіальних завдань. 

Витік аудіозапису внутрішньої наради зафіксував слова керівника Accenture про те, що витрати на ШІ «стають дуже непередбачуваними». Той самий керівник зазначив, що керівництво «на рівні CFO, COO та CIO досі ставить питання про те, чи отримують вони цінність від того, що витрачають».

Адам МакДаніел та Маркус Айзеле з International Business Machines (IBM) стверджували в нещодавньому аналізі, що мінімізація токенів так само шкідлива, як і tokenmaxxing, оскільки обидва підходи роблять споживання токенів головною метою, а не зосереджуються на бізнес-результатах. 

IBM пропагує те, що називає «valuemaxxing», — підхід, що зосереджується на вимірюванні виконаних завдань, заощадженого часу та уникненого доопрацювання, а не спожитих токенів.

Чи вже впливає скорочення витрат на ШІ на компанії?

OpenAI та Anthropic будували свої плани зростання на припущенні, що підприємства продовжуватимуть споживати дедалі більше токенів. 

OpenAI на початку цього року перетнув позначку в 25 мільярдів доларів річного доходу, оцінюючи себе в 1 трильйон доларів, тоді як Anthropic оцінюється на кілька мільярдів доларів менше. Обидві компанії витрачають кошти на обчислення, дослідження та наймання персоналу, сподіваючись, що корпоративне впровадження зробить їх прибутковими. 

Проте підприємства вже резервують дорогі флагманські моделі для складної роботи, а для рутинних завдань використовують менші, дешевші альтернативи. Деякі переносять робочі навантаження на моделі з відкритим вихідним кодом, які працюють на власній інфраструктурі без поштокенної оплати.

Міжнародна корпорація даних (IDC) прогнозує, що до 2028 року 70% провідних підприємств, керованих ШІ, використовуватимуть кілька моделей, а не покладатимуться на одного постачальника. Це перетворить ШІ на товар, де постачальники конкуруватимуть за ціною, а не лише за можливостями. 

Втім, питання грошей нікуди не зникне найближчим часом. Навіть генеральний директор OpenAI Сем Альтман визнав, що вартість ШІ стала «величезною проблемою» для клієнтів цього року.

Якщо ви читаєте це, ви вже попереду. Залишайтеся там разом з нашою розсилкою.