Mironet nahradil AI agenty modelem Jev a zrychlil třídění produktů

Mironet nahradil při automatické kategorizaci produktů AI agenty využívající Claude modelem Jev od TypeSafe AI. Podle měření e-shopu se zpracování jedné sady produktů zkrátilo z 32,4 na 1,7 sekundy.

Jev je model umělé inteligence určený k rozhodování mezi předem stanovenými možnostmi. Namísto vět vrací například zvolenou možnost, skóre nebo pravděpodobnost, které může software přímo zpracovat.

Mironet uvádí až 343krát nižší náklady, o 30 až 40 procent vyšší přesnost a 19krát rychlejší rozhodování. E-shop také tvrdí, že v testovaném procesu nevznikly halucinace, tedy smyšlené výstupy generativní AI.

Předchozí řešení běželo od letošního jara na AI agentech s modelem Claude od společnosti Anthropic. Generativní model vytvářel text, který musel zpracovat další software. Jev místo textu posílá datové hodnoty určené přímo ke strojovému zpracování. Úspora má podle zveřejněného vysvětlení vznikat tím, že model nevytváří slova a věty, které kategorizace produktů nepotřebuje.

Výsledky pocházejí z jednoho nasazení, nikoli z nezávislého srovnání více provozů. Zveřejněné údaje nepopisují metodiku měření přesnosti ani výchozí hodnotu, vůči níž Mironet zlepšení počítal. TypeSafe AI uvádí u Jev dobu odpovědi v desítkách až stovkách milisekund. Tento údaj však nezahrnuje celý proces zpracování v e-shopu.

Úzce zaměřený model může být při rutinním rozhodování s několika jasnými možnostmi levnější než obecná generativní AI. Z výsledků Mironetu však nelze určit, zda by se stejný rozdíl projevil v jiném nasazení. Bez zveřejněné ceny, limitů používání, nároků na integraci a podmínek nasazení nelze spočítat návratnost. Přesnost a celkové náklady je proto potřeba porovnat na konkrétním, úzce vymezeném procesu.