Česká firma BottleCap AI, za kterou stojí Tomáš Mikolov a Jaroslav Beck, vzala otevřený jazykový model Qwen od Alibaby a přestavěla ho tak, aby na stejnou práci potřeboval míň. Výsledek se jmenuje ThinkingCap a na platformě Hugging Face si ho lidé stáhli už přes 300 tisíckrát. Hranici tří set tisíc překonal desátého července.
Hlavní tah je v tom, že model spotřebuje až o 46 procent méně tokenů. Tokeny jsou to, co se u provozu AI platí a co určuje rychlost. Míň tokenů znamená nižší účet za provoz a kratší čekání na odpověď. Autoři přidali i verzi FP8 a zpřístupnili ji přes rozhraní služby Requesty.
Model se dá stáhnout zdarma a rozjet na vlastních serverech, licence Apache 2.0 to dovoluje. BottleCap si nechává placené jen nasazení a další ladění u konkrétních firem.
Většina tuzemských firem dnes AI bere přes cizí cloud a platí za každý dotaz. Model, který zvládne totéž s menší spotřebou a dá se navíc provozovat u sebe, ten účet snižuje a citlivá data drží doma. Že za jedním z nejstahovanějších otevřených modelů stojí Češi, přitom není špatná zpráva ani pro tuzemský trh.
Většina firemních AI projektů nikdy nedojede do provozu a důvod málokdy bývá technika. Kdy se vlastní vývoj vyplatí, kdy je to drahá past a podle čeho se rozhodnout.
Máte vizi AI agentů ve vaší firmě? Jak ji proměnit v realitu? Šestý článek naší série se věnuje strategii úspěšné implementace, od posouzení připravenosti a budování nezbytných digitálních základů až po výběr správného partnera a měření reálných přínosů. Zjistěte, jak naplánovat a provést…
AI agenti nejsou jen o firemní efektivitě, ale i o změně vaší každodenní práce. Zjistěte, jak se díky digitálním kopilotům můžete zbavit nudné rutiny a získat více času na kreativitu, strategické myšlení a úkoly s vyšší přidanou hodnotou. Pátý díl naší série nabízí odlehčený pohled na to, jak AI…
Napište nám, co u vás řešíte. Společně probereme, jestli vám můžeme pomoci.
