Česká firma BottleCap AI, za kterou stojí Tomáš Mikolov a Jaroslav Beck, vzala otevřený jazykový model Qwen od Alibaby a přestavěla ho tak, aby na stejnou práci potřeboval míň. Výsledek se jmenuje ThinkingCap a na platformě Hugging Face si ho lidé stáhli už přes 300 tisíckrát. Hranici tří set tisíc překonal desátého července.
Hlavní tah je v tom, že model spotřebuje až o 46 procent méně tokenů. Tokeny jsou to, co se u provozu AI platí a co určuje rychlost. Míň tokenů znamená nižší účet za provoz a kratší čekání na odpověď. Autoři přidali i verzi FP8 a zpřístupnili ji přes rozhraní služby Requesty.
Model se dá stáhnout zdarma a rozjet na vlastních serverech, licence Apache 2.0 to dovoluje. BottleCap si nechává placené jen nasazení a další ladění u konkrétních firem.
Většina tuzemských firem dnes AI bere přes cizí cloud a platí za každý dotaz. Model, který zvládne totéž s menší spotřebou a dá se navíc provozovat u sebe, ten účet snižuje a citlivá data drží doma. Že za jedním z nejstahovanějších otevřených modelů stojí Češi, přitom není špatná zpráva ani pro tuzemský trh.
Pro první AI pilot je potřeba testovací sada, která zachytí běžné i hraniční případy. Bez výchozího času, chybovosti a hranice úspěchu ale výsledek nelze vyhodnotit.
Pět licencí, 7 800 Kč měsíčně a 13 podstatných chyb ve 40 výstupech. Až měření ukázalo, kde AI malé firmě skutečně šetří čas.
Ford nahradil stovky inženýrů automatizací, kvalita spadla a 350 veteránů vzal zpátky. Klarna udělala totéž se zákaznickou podporou. Studie z MIT přidává tvrdé číslo: 95 procent firemních nasazení AI nepřineslo nic. Kde AI selhává a co si z toho vzít, než ji nasadíte.
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
