Den reelle forskel mellem en chatbot og en agent

Den ene svarer på et spørgsmål. Den anden beslutter, hvad der skal gøres, gør det, tjekker sit eget arbejde og går videre til næste skridt — uden at vente på, at du spørger. Den forskel er ikke akademisk. Den ændrer, hvad der kan gå galt, og hvem der skal opdage det.

En chatbot tager det, du skriver, genererer et svar og stopper. En agent tager det, du skriver, beslutter, hvad der skal ske, gør noget ved det, tjekker, om det virkede, og beslutter, hvad der skal gøres bagefter — på egen hånd, ofte over mange skridt — før et menneske ser noget af det. Det er hele skellet. Alt det, folk skændes om, når de skændes om «AI-agenter» — risikoen, det tilsyn et system har brug for, og det meste af marketingforvirringen — følger af den ene forskel.

Hvad en chatbot faktisk gør

En chatbot er et system med ét gennemløb. Du giver den tekst, den genererer tekst tilbage, og samtalen slutter der. Selv en chatbot med en lang hukommelse om samtalen gør stadig én ting pr. tur: læser alt, der er sagt indtil nu, og forudsiger den næste besked. Den slår aldrig op i en database for at tjekke en kendsgerning, sender aldrig noget på dine vegne og kommer aldrig tilbage senere for at se, om svaret holdt. Hvis den tager fejl, er skaden en sætning, et menneske læser — og som den person, i den almindelige gang, kan fange, før vedkommende handler på den.

Det meste af det, folk beder chatbots om, passer til den form, uden at nogen lægger mærke til det: opsummér dette dokument, skriv en fødselsdagsbesked, forklar vores refusionspolitik, skriv tre overskriftsmuligheder. Ingen af disse kræver, at systemet tjekker noget mod den virkelige verden eller foretager en handling uden for chatvinduet. Det gælder stadig, når grænsefladen hedder «AI-assistent» eller «copilot» i stedet for «chatbot» — etiketten på æsken ændrer ikke det, der sker inden i den.

Hvad en agent faktisk gør

En agent kører en løkke, ikke ét gennemløb: planlægge et skridt, handle ved at kalde et rigtigt værktøj — søge i en database, sende en besked, redigere en fil, ramme et API — se på, hvad den handling faktisk returnerede, og bruge resultatet til at beslutte næste skridt. Den gentager det, indtil opgaven er færdig, den sidder fast, eller den er bygget til at tjekke ind hos et menneske. Det vigtige er, at ingen godkender hvert enkelt skridt undervejs. Systemet beslutter selv, hvad det skal prøve bagefter, ud fra hvad der faktisk skete, sidste gang det handlede — og det kan tage fejl ved hvert af de beslutningspunkter, ikke kun i et endeligt svar.

Den løkke er ikke ny eller eksotisk. Forskere har beskrevet varianter af den — ræsonnere over, hvad der skal gøres, handle, observere resultatet, ræsonnere igen — i årevis, og det er det, der faktisk kører under produkter, som kalder sig agenter, fra software, der indsender udgiftsbilag, til kodeværktøjer, der åbner en terminal og kører deres egne kommandoer. Det, der gør noget til en agent i stedet for en meget snakkesalig chatbot, er, at den handler på verden, ser, hvad der skete, og justerer — igen og igen, uden at et menneske godkender hvert træk.

Den samme forespørgsel, kørt på to måder

Sådan ser forskellen ud, når to systemer får instrukser, der lyder ens.

Stil en chatbot det andet spørgsmål, og den giver dig stadig noget, der ligner et svar: tre plausibelt formulerede påmindelsesmails, genereret ud fra det, du tilfældigvis indsatte i samtalen. Det, den ikke gør, er at forespørge dit faktiske fakturasystem, verificere antallet eller lægge noget i en rigtig kladdemappe. Outputtet kan se ens ud. Det, systemet faktisk gjorde, er det ikke.

Hvorfor det her ikke kun er en semantisk diskussion

Skellet betyder noget, fordi det ændrer, hvad der kan gå galt, og hvem der opdager det. En chatbots værste tilfælde er et forkert svar. Nogen læser det og fanger, i den almindelige gang, fejlen eller vælger ikke at handle på den — fejlen forlader aldrig samtalen. En agents værste tilfælde er en forkert handling, der allerede er udført i den virkelige verden: påmindelsen, der gik til den forkerte kunde med den forkerte saldo, posten, der blev opdateret med den forkerte værdi, refunderingen, der blev udstedt to gange — før nogen havde gennemgået noget. Fejlen er ikke en sætning længere. Den er en hændelse, og hændelser gør sig ikke ugjorte.

Derfor har en agent brug for en anden form for tilsyn end en chatbot. En chatbot har mest brug for nogen, der tjekker svarene, når vedkommende når dertil. En agent har brug for, at dens designere allerede har besluttet, før den nogensinde kører, hvilke handlinger den må udføre uden at spørge, hvilke der kræver, at et menneske ser planen først, og hvad der sker, når den sidder fast. Finder du ud af det bagefter, opdager du, hvad agenten allerede har gjort, på den hårde måde.

Du kan kun stole på det, du kan se

Det er den samme idé bag FabricLoops begreb Læsbarhed: du kan kun styre den adgang og den adfærd, du faktisk kan se. For en chatbot er det næsten automatisk — hele outputtet er en besked, et menneske læser, så handlingen og registreringen af handlingen er det samme. For en agent er de ikke det. Dens handlinger sker inde i andre systemer — et CRM, en indbakke, en database, en fil — og medmindre noget logger, hvad den rørte, ændrede eller sendte, er der ingen måde at gennemgå det bagefter, endsige stoppe det på forhånd. Læsbarhed er ikke et compliance-tilvalg, man lægger oven på en agent. For en agent er det hele spørgsmålet, fordi dens «svar» ikke er en sætning, du kan korrekturlæse — det er et sæt handlinger, du måske aldrig får at vide skete, medmindre systemet blev bygget til at vise dig dem.

Det er den praktiske forbindelse mellem de to idéer: en agent påtager sig mere og en anden risiko end en chatbot, og netop derfor har den brug for et synligt spor af, hvad den gjorde, og i tilfældene med højere indsats et kontrolpunkt, før den handler — det, FabricLoops begreb Andel af menneskelig indgriben behandler som et tal, du designer og måler, ikke som en eftertanke, du skruer på, når noget allerede er gået galt.

Markedet prissætter det her bagvendt, hele tiden

Når du har den reelle test, er det tydeligt, hvor ofte etiketten lyver i begge retninger. Masser af produkter, der markedsføres hårdt som «AI-agenter» — ordet i hovedoverskriften, i prisniveauerne — er nedenunder én veltrimmet prompt: læs input, generér output, færdig. Intet selvstændigt værktøjskald, ingen løkke, ingen beslutning uden at et menneske godkender det næste klik. Imens kører masser af software, der aldrig bruger ordet «agent» — et automatiseret fakturaforløb, et overvågningssystem, der omdirigerer trafik på egen hånd, et driftsscript, der genstarter en fejlramt tjeneste og tjekker, om det løste problemet — stille præcis den løkke, der er beskrevet ovenfor. Ordet på etiketten fortæller dig intet pålideligt om, hvilken maskine du faktisk bruger.

Intet af det her kræver en teknisk baggrund for at blive brugt. Næste gang en leverandør, eller en kollega, kalder noget en agent, så spørg, hvad den faktisk gjorde mellem din instruks og resultatet — og hvor mange af de skridt den besluttede selv.