Pětina organizací omezuje používání AI kvůli nákladům, zjistil McKinsey

Podle průzkumu McKinsey už 20 procent respondentů omezilo používání umělé inteligence kvůli nákladům. Více než 60 procent však chce investice v příštím roce zvýšit.

Výdaje rostou především s rozšiřováním AI agentů. Tyto programy samostatně plní zadané úkoly a mohou pracovat bez průběžného zásahu člověka. Jejich provoz spotřebuje více tokenů, tedy jednotek textu, které jazykový model zpracuje nebo vytvoří.

Vývojové studio Ackee uvádí, že jeho výdaje na AI meziročně vzrostly přibližně na pětinásobek. Sudolabs hlásí u AI používané při vývoji softwaru zvýšení téměř o 600 procent. Trask řadí rozvoj a provoz vlastní AI infrastruktury mezi své největší investiční položky.

Téměř třetina respondentů průzkumu vydává na AI více než deset procent celkového rozpočtu na IT. Cena jednoho tokenu sice klesá, jeho nižší cenu však vyvažuje rostoucí spotřeba. Nejvíce tokenů vyžadují složitější logické úlohy a vývoj softwaru s pomocí nejvýkonnějších modelů.

Firmy proto zavádějí limity spotřeby. Trustsoft je používá jako pojistku proti neobvyklému provozu, například když AI agent běží celou noc ve smyčce. Sledování limitů zároveň ukazuje, kde spotřeba roste a co ji způsobuje.

Vyšší účet za AI sám o sobě neznamená, že se investice nevyplácí. Sudolabs dává vyšší výdaje na AI do souvislosti se svým růstem o 50 až 100 procent ročně při prakticky stejných personálních nákladech ve vývoji. Zveřejněná data však neobsahují jednotné ceny ani hranici návratnosti. Bez limitů a průběžného měření přínosu jednotlivých úloh proto nelze posoudit, zda rostoucí spotřeba odpovídá dosaženým výsledkům.