Skutečný rozdíl mezi chatbotem a agentem

Jeden z nich odpovídá na otázku. Druhý rozhodne, co udělat, udělá to, zkontroluje vlastní práci a posune se k dalšímu kroku — aniž by čekal, až o to požádáte. Ten rozdíl není akademický. Mění to, co se může pokazit a kdo to má zachytit.

Chatbot vezme to, co napíšete, vygeneruje odpověď a zastaví se. Agent vezme to, co napíšete, rozhodne, co se má stát, něco s tím udělá, ověří, jestli to zabralo, a rozhodne, co dělat dál — sám, často přes mnoho kroků — dřív, než člověk z toho cokoli uvidí. V tom je celý rozdíl. Všechno, o čem se lidé přou, když se přou o „AI agentech“ — riziko, dohled, který systém potřebuje, a většina marketingového zmatku — plyne z tohoto jediného rozdílu.

Co chatbot skutečně dělá

Chatbot je systém s jedním průchodem. Dáte mu text, on vygeneruje text zpět a interakce tam končí. I chatbot s dlouhou pamětí vaší konverzace pořád dělá jednu věc na tah: přečte všechno, co se dosud řeklo, a předpoví další zprávu. Nikdy se neptá databáze, aby ověřil fakt, nikdy nic neposílá vaším jménem a nikdy se nevrací později, aby viděl, jestli odpověď obstála. Když se mýlí, škoda je věta, kterou člověk čte — a kterou v běžném chodu věcí může zachytit, než podle ní jedná.

Většina toho, o co lidé chatboty žádají, má tento tvar, aniž by si toho někdo všiml: shrň tento dokument, napiš narozeninovou zprávu, vysvětli naše pravidla vracení, napiš tři varianty titulku. Nic z toho nevyžaduje, aby systém něco ověřil vůči reálnému světu nebo podnikl akci mimo okno chatu. Platí to i tehdy, když se rozhraní jmenuje „AI asistent“ nebo „copilot“ místo „chatbot“ — štítek na krabici nemění, co se děje uvnitř.

Co agent skutečně dělá

Agent běží ve smyčce, ne v jednom průchodu: naplánuje krok, podnikne akci voláním skutečného nástroje — prohledá databázi, pošle zprávu, upraví soubor, zavolá API — podívá se, co ta akce skutečně vrátila, a ten výsledek použije k rozhodnutí o dalším kroku. Opakuje to, dokud úkol není hotový, nezasekne se, nebo dokud není postavený tak, aby se ozval člověku. Důležité je, že nikdo neschvaluje každý jednotlivý krok po cestě. Systém sám rozhoduje, co zkusit dál, podle toho, co se skutečně stalo, když naposledy jednal — a může se mýlit v každém z těchto rozhodovacích bodů, ne jen v konečné odpovědi.

Tahle smyčka není nová ani exotická. Výzkumníci její verze — uvažování o tom, co udělat, jednání, pozorování výsledku, znovu uvažování — popisují roky a přesně to běží pod produkty, které se nazývají agenty, od softwaru, který podává vyúčtování výdajů, po nástroje na kód, které otevřou terminál a spustí vlastní příkazy. To, co z něčeho dělá agenta místo velmi upovídaného chatbota, je, že jedná ve světě, sleduje, co se stalo, a přizpůsobuje se — opakovaně, bez toho, aby člověk schvaloval každý tah.

Stejná žádost, dvěma způsoby

Takhle ten rozdíl vypadá, když dva systémy dostanou pokyny, které znějí podobně.

Položte chatbotu druhou otázku a pořád vám vrátí něco, co vypadá jako odpověď: tři věrohodně znějící upomínkové e-maily, vygenerované z toho, co jste do konverzace náhodou vložili. Co neudělá: nezeptá se vašeho skutečného fakturačního systému, neověří počet a nic nedá do skutečné složky konceptů. Výstup může vypadat podobně. To, co systém skutečně udělal, podobné není.

Proč to není jen hádka o slova

Rozdíl záleží, protože mění to, co se může pokazit a kdo to zachytí. Nejhorší případ chatbota je špatná odpověď. Někdo ji přečte a v běžném chodu věcí buď chybu zachytí, nebo se rozhodne podle ní nejednat — omyl konverzaci nikdy neopustí. Nejhorší případ agenta je špatná akce už provedená v reálném světě: upomínka, která šla špatnému zákazníkovi se špatným zůstatkem, záznam aktualizovaný špatnou hodnotou, refundace vystavená dvakrát — dřív, než kdokoli cokoli zkontroloval. Omyl už není věta. Je to událost a události nejdou vzít zpět.

Proto agent potřebuje jiný druh dohledu než chatbot. Chatbot potřebuje hlavně někoho, kdo kontroluje jeho odpovědi, až se k tomu dostane. Agent potřebuje, aby jeho návrháři už rozhodli, než vůbec poběží, které akce smí udělat bez ptaní, které vyžadují, aby člověk nejdřív viděl plán, a co se stane, když se zasekne. Když to vyřešíte až potom, zjistíte natvrdo, co agent už udělal.

Důvěřovat můžete jen tomu, co vidíte

Je to stejná myšlenka za konceptem Čitelnost ve FabricLoop: řídit můžete jen přístup a chování, které skutečně vidíte. U chatbota je to skoro automatické — celý jeho výstup je zpráva, kterou člověk čte, takže akce a záznam akce jsou totéž. U agenta nejsou. Jeho akce se dějí uvnitř jiných systémů — CRM, schránky, databáze, souboru — a pokud něco nezaznamená, čeho se dotkl, co změnil nebo co poslal, není jak to zpětně přezkoumat, natož to předem zastavit. Čitelnost není příjemný doplněk souladu položený na agenta. Pro agenta je to celá otázka, protože jeho „odpověď“ není věta, kterou můžete zkorigovat — je to soubor akcí, o nichž se možná nikdy nedozvíte, že se staly, pokud systém nebyl postaven tak, aby vám je ukázal.

To je praktické spojení obou myšlenek: agent na sebe bere víc a jiného rizika než chatbot, a právě proto potřebuje viditelnou stopu toho, co udělal, a v případech s vyšší sázkou kontrolní bod, než jedná — to, co koncept Míra zásahu člověka ve FabricLoop bere jako číslo, které navrhujete a měříte, ne jako dodatečnou myšlenku, kterou přišroubujete, až se už něco pokazilo.

Trh to oceňuje pozpátku, pořád

Jakmile máte skutečný test, je zřejmé, jak často štítek lže oběma směry. Spousta produktů tvrdě prodávaných jako „AI agenti“ — slovo v úvodním nadpisu, v cenových stupních — je pod tím jediný dobře vyladěný prompt: přečti vstup, vygeneruj výstup, hotovo. Žádné samostatné volání nástroje, žádná smyčka, žádné rozhodnutí bez člověka, který schválí další klik. Mezitím spousta softwaru, který slovo „agent“ nikdy nepoužije — automatizovaný fakturační tok, monitorovací systém, který sám přesměruje provoz, provozní skript, který restartuje spadlou službu a ověří, jestli to pomohlo — tiše běží přesně tu smyčku popsanou výše. Slovo na štítku vám neřekne nic spolehlivého o tom, který stroj skutečně používáte.

Nic z toho nevyžaduje technické zázemí, abyste to použili. Až příště dodavatel nebo kolega něco nazve agentem, zeptejte se, co skutečně udělal mezi vaším pokynem a výsledkem — a o kolika z těch kroků rozhodl sám.