Firmy v ostrém provozu omezují samostatnost AI agentů

V úspěšných podnikových nasazeních mají AI agenti přesně vymezeno, co mohou udělat bez kontroly. AI agent je software, který plánuje a provádí několik navazujících kroků. Tato omezení se uplatňují v běžných firemních procesech.

V uplynulých 2 letech v podnikové umělé inteligenci převládal předpoklad, že větší samostatnost přinese lepší výsledky. Firmy proto navrhovaly agenty s možností samostatně plánovat, rozhodovat a provádět úkony v pracovních postupech složených z více kroků.

Zkušenosti z ostrého provozu ukazují, že větší autonomie není vždy výhodou. V úspěšných nasazeních agenti neprovádějí všechny kroky bez kontroly. Firmy vymezují jejich oprávnění, místo aby jim dávaly co největší volnost. Výsledek tak neurčují jen schopnosti modelu. Záleží také na tom, co smí nástroj provést samostatně.

Tento přístup se liší od představy, že pokročilejší agent automaticky vyžaduje méně dohledu. V běžných firemních procesech není samotná autonomie cílem. Z dostupných informací současně nelze porovnat výsledky nasazení s různou mírou samostatnosti. Nejsou uvedeny údaje o konkrétních firmách, měřených přínosech ani chybovosti. Chybí také informace o oborech a typech procesů, ve kterých se omezená samostatnost osvědčila.

Při přípravě nového nasazení lze předem určit, které kroky agent dokončí sám a kde bude nutná kontrola. Bez údajů o cenách, nákladech na dohled, konkrétních limitech, termínech nasazení a srovnání výkonu však nelze posoudit investici ani rozhodnout o změně používaných systémů.