Firmy v ostrém provozu omezují samostatnost AI agentů

V úspěšných podnikových nasazeních mají AI agenti přesně vymezeno, co mohou udělat bez kontroly. AI agent je software, který plánuje a provádí několik navazujících kroků. Tato omezení se uplatňují v běžných firemních procesech.

V uplynulých 2 letech v podnikové umělé inteligenci převládal předpoklad, že větší samostatnost přinese lepší výsledky. Firmy proto navrhovaly agenty s možností samostatně plánovat, rozhodovat a provádět úkony v pracovních postupech složených z více kroků.

Zkušenosti z ostrého provozu ukazují, že větší autonomie není vždy výhodou. V úspěšných nasazeních agenti neprovádějí všechny kroky bez kontroly. Firmy vymezují jejich oprávnění, místo aby jim dávaly co největší volnost. Výsledek tak neurčují jen schopnosti modelu. Záleží také na tom, co smí nástroj provést samostatně.

Tento přístup se liší od představy, že pokročilejší agent automaticky vyžaduje méně dohledu. V běžných firemních procesech není samotná autonomie cílem. Z dostupných informací současně nelze porovnat výsledky nasazení s různou mírou samostatnosti. Nejsou uvedeny údaje o konkrétních firmách, měřených přínosech ani chybovosti. Chybí také informace o oborech a typech procesů, ve kterých se omezená samostatnost osvědčila.

Tyto informace samy o sobě nejsou pro firmu do 50 lidí důvodem měnit používané systémy ani zastavit připravované projekty. Při přípravě nového nasazení může firma předem určit, které kroky agent dokončí sám a kde bude nutná kontrola. K posouzení investice stále chybějí ceny, náklady na dohled, konkrétní limity, termíny nasazení a srovnání výkonu.