Chatbot, nebo AI agent: autonomie znamená i nové riziko

Chatbot je vhodný pro odpověď na dotaz, pevná automatizace pro předem určený postup a AI agent pro úkol, v němž se další krok mění podle zjištěných informací. Srovnání Adobe popisuje chatbot jako reaktivní rozhraní a agenta jako systém, který při plnění cíle rozhoduje o krocích a používá různé nástroje.

Pro firmu je rozhodující, kdo určuje další krok a jaký následek může mít omyl. Samostatné rozhodování pomáhá tam, kde pravidla nepokrývají proměnlivé podklady. Současně vyžaduje kontrolu přístupů a akcí: systém, který pouze připraví odpověď, má jiné možnosti než systém oprávněný změnit objednávku nebo odeslat platbu.

Stejný požadavek, tři různé úlohy

Představme si podmíněný příklad zákazníka, který chce vrátit zboží. Chatbot mu sdělí pravidla vrácení a poradí, kde podat žádost. Pevná automatizace po přijetí žádosti ověří stanovené podmínky a podle nich ji předá pracovníkovi nebo spustí další předepsaný krok. Agent může podle průběžného výsledku vybrat, které údaje dohledat, zda si vyžádat doplnění a jakou navazující akci připravit. Nejde o popis konkrétního nasazení.

Ve srovnání TechRadar Pro chatbot vede konverzaci, pravidlová automatizace opakuje pevný postup a agent vybírá nástroje a přizpůsobuje se během úkolu. Počet kroků tedy sám nerozhoduje: dlouhý proces může stále běžet podle pevného scénáře. Ani chatovací okno neurčuje, co systém skutečně umí; podstatná jsou jeho oprávnění a to, zda o postupu rozhoduje model, nebo předem napsaná pravidla.

Rozhodovací matice pro firemní proces

Výběr začíná výsledkem, který má systém dodat. U každé části procesu pak pomáhá projít následující hlediska společně; jedno z nich samo o sobě potřebu agenta neurčuje.

• Počet kroků: Pokud má systém jen najít a formulovat informaci, stačí chatbot. Více navazujících úkonů volá po automatizaci, ale jejich délka ještě neříká, zda musí být autonomní. Rozhoduje, jestli lze pořadí a větvení určit předem.
• Potřeba nástrojů: Odpověď může čerpat ze znalostní báze. Zápis do objednávkového systému nebo odeslání zprávy už vyžaduje propojení s další aplikací. Agent přidává hodnotu tehdy, když má podle situace rozhodnout, který dostupný nástroj použije a proč.
• Variabilita procesu: Opakující se vstupy a jasná pravidla nahrávají pevnému scénáři. U neúplných podkladů a výjimek může být užitečné, aby systém po každém zjištění upravil další krok. I tak potřebuje vymezený cíl a hranici, za kterou případ předá člověku.
• Dopad chyby: Návrh odpovědi lze před odesláním upravit. Chybný zápis do evidence, zpráva zákazníkovi nebo platba mohou vyžadovat opravu i mimo samotný systém. Čím obtížněji lze akci vzít zpět, tím menší prostor dává smysl ponechat samostatnému provedení.
• Nutný dohled: Firma musí vědět, kdo řeší výjimky, schvaluje citlivé úkony a dohledá důvod provedené akce. Pokud člověk musí posoudit každý běžný krok, přínos agentova vlastního rozhodování se zmenšuje. Schválení několika zásadních akcí naopak může být vhodnou součástí jinak pružného procesu.
• Předvídatelnost nákladů: Pevný scénář umožňuje dopředu popsat větve procesu. Agent může u podobných úkolů vykonat různý počet kroků a volání nástrojů. Do porovnání proto patří nejen cena služby, ale i kontrola výsledků, čas zaměstnanců a náprava chybných akcí.

Kdy proměnlivý postup ospravedlní agenta

Agent má smysl, když lze určit výsledek, ale nelze rozumně sepsat všechny cesty k němu. U neúplného zákaznického požadavku může být třeba střídavě dohledat údaje, vyžádat si vysvětlení a posoudit výjimku. U známých variant však bývá přesnější i snáze kontrolovatelné zapsat větvení přímo do procesu.

Technický přehled Microsoftu rozlišuje proces, jehož pořadí kroků řídí kód, od agentní smyčky, v níž model volí nástroje a rozhoduje, kdy je úkol hotový. Pro známé kroky uvádí pevné řízení; agentní smyčku spojuje s otevřenými úkoly, které se mění podle mezivýsledků. Oba přístupy lze spojit: jednoznačné kontroly ponechat v pevném postupu a modelu svěřit jen část vyžadující rozhodnutí nad proměnlivými podklady.

Provozní cena zahrnuje i dohled

Účet za agenta neurčuje pouze počet přijatých požadavků. Pokyny Microsoftu k provozu agentů spojují náklady také s počtem volání modelu, délkou zpracovávaného kontextu a opakovaným plánováním; pevně určenou práci doporučují přesunout do kódu nebo předem daných akcí. Skutečná cena závisí na zvolené službě, účtování a podobě procesu, takže samotný příslib automatizace úsporu nedokazuje.

Pro rozhodnutí je užitečnější cena za správně dokončený úkol než cena za jednu interakci. Jestliže pracovník musí opravovat četné výstupy nebo zjišťovat, proč agent úkol nedokončil, část práce se pouze přesunula. Naopak u složitých výjimek může být placené rozhodování přínosné, pokud ušetří více lidské práce, než kolik stojí provoz, kontrola a případná náprava.

Oprávnění určují rozsah rizika

Rozdíl mezi radou a provedenou akcí se projeví ve chvíli, kdy systém smí měnit záznamy nebo jednat jménem firmy. OWASP v popisu nadměrné autonomie upozorňuje na zbytečně širokou nabídku funkcí, nadměrná oprávnění a chybějící lidské schválení úkonů s velkým dopadem. Doporučuje omezit nástroje i přístupy na nezbytné minimum a citlivé akce potvrzovat člověkem.

U vrácení zboží tak může systém samostatně shromáždit podklady a připravit návrh, zatímco konečné vrácení peněz zůstane ke schválení. Důležité je také uchovat záznam, podle něhož lze dohledat provedený krok a napravit změnu v objednávce. Tato hranice dovoluje využít pružnost při řešení nejasného požadavku, aniž by každé modelové rozhodnutí automaticky měnilo stav dalších aplikací.

Nejjednodušší řešení může být kombinace

Pokud zákazník potřebuje informaci, začněte odpovědí. Jestli má po splnění jasných podmínek následovat známá akce, použijte pevnou automatizaci. Agent přichází na řadu pro část práce, v níž je nutné podle nových zjištění vybírat další postup a přínos této volnosti vyvažuje dohled, náklady i možné následky chyby.

Jeden zákaznický proces proto nemusí mít jediné označení. Chatbot může převzít dotaz, pevná pravidla ověřit jednoznačné podmínky a agent řešit pouze výjimku. Volba se pak váže ke konkrétnímu rozhodnutí a jeho oprávněním, nikoli k názvu produktu v nabídce dodavatele.