Den virkelige forskjellen mellom en chatbot og en agent

Den ene svarer på et spørsmål. Den andre bestemmer hva som skal gjøres, gjør det, sjekker sitt eget arbeid og går videre til neste steg — uten å vente på at du spør. Den forskjellen er ikke akademisk. Den endrer hva som kan gå galt, og hvem som skal fange det opp.

En chatbot tar det du skriver, genererer et svar og stopper. En agent tar det du skriver, bestemmer hva som må skje, gjør noe med det, sjekker om det virket og bestemmer hva som skal gjøres videre — på egen hånd, ofte over mange steg — før et menneske ser noe av det. Det er hele skillet. Alt folk krangler om når de krangler om «AI-agenter» — risikoen, tilsynet et system trenger, og det meste av markedsføringsforvirringen — følger av den ene forskjellen.

Hva en chatbot faktisk gjør

En chatbot er et system med ett gjennomløp. Du gir den tekst, den genererer tekst tilbake, og samhandlingen slutter der. Selv en chatbot med et langt minne om samtalen gjør fortsatt én ting per tur: leser alt som er sagt så langt og forutsier neste melding. Den slår aldri opp i en database for å sjekke et faktum, sender aldri noe på dine vegne og kommer aldri tilbake senere for å se om svaret holdt. Hvis den tar feil, er skaden en setning et menneske leser — og som den personen, i vanlig orden, kan fange opp før vedkommende handler på den.

Det meste folk ber chatboter om, passer denne formen uten at noen merker det: oppsummer dette dokumentet, skriv en bursdagsmelding, forklar refusjonsreglene våre, skriv tre overskriftsalternativer. Ingen av disse krever at systemet sjekker noe mot den virkelige verden eller gjør en handling utenfor chatvinduet. Det gjelder fortsatt når grensesnittet kalles «AI-assistent» eller «copilot» i stedet for «chatbot» — etiketten på esken endrer ikke det som skjer inni den.

Hva en agent faktisk gjør

En agent kjører en løkke, ikke ett gjennomløp: planlegge et steg, handle ved å kalle et ekte verktøy — søke i en database, sende en melding, redigere en fil, treffe et API — se på hva den handlingen faktisk returnerte, og bruke resultatet til å bestemme neste steg. Den gjentar dette til oppgaven er ferdig, den står fast, eller den er bygget for å sjekke inn med et menneske. Det viktige er at ingen godkjenner hvert enkelt steg underveis. Systemet bestemmer selv hva det skal prøve videre, ut fra hva som faktisk skjedde forrige gang det handlet — og det kan ta feil ved hvert av disse beslutningspunktene, ikke bare i et endelig svar.

Denne løkken er ikke ny eller eksotisk. Forskere har beskrevet varianter av den — resonnere om hva som skal gjøres, handle, observere resultatet, resonnere igjen — i årevis, og det er det som faktisk kjører under produkter som kaller seg agenter, fra programvare som sender inn utleggsrapporter til kodeverktøy som åpner en terminal og kjører sine egne kommandoer. Det som gjør noe til en agent i stedet for en veldig pratsom chatbot, er at den handler på verden, ser hva som skjedde og justerer — gjentatte ganger, uten at et menneske godkjenner hvert trekk.

Den samme forespørselen, kjørt på to måter

Slik ser forskjellen ut når to systemer får instruksjoner som høres like ut.

Still en chatbot det andre spørsmålet, og den gir deg likevel noe som ser ut som et svar: tre plausibelt formulerte påminnelses-e-poster, generert ut fra det du tilfeldigvis limte inn i samtalen. Det den ikke gjør, er å spørre det faktiske fakturasystemet ditt, verifisere antallet eller legge noe i en ekte utkastmappe. Utdataene kan se like ut. Det systemet faktisk gjorde, er det ikke.

Hvorfor dette ikke bare er en semantisk diskusjon

Skillet betyr noe fordi det endrer hva som kan gå galt, og hvem som fanger det opp. En chatbots verste tilfelle er et galt svar. Noen leser det og fanger, i vanlig orden, feilen eller velger å ikke handle på det — feilen forlater aldri samtalen. En agents verste tilfelle er en gal handling som allerede er utført i den virkelige verden: påminnelsen som gikk til feil kunde med feil saldo, posten som ble oppdatert med feil verdi, refusjonen som ble utstedt to ganger — før noen gjennomgikk noe. Feilen er ikke en setning lenger. Den er en hendelse, og hendelser gjør seg ikke ugjort.

Derfor trenger en agent en annen type tilsyn enn en chatbot. En chatbot trenger stort sett noen som sjekker svarene, når vedkommende kommer så langt. En agent trenger at de som utformet den, allerede har bestemt, før den noensinne kjører, hvilke handlinger den kan utføre uten å spørre, hvilke som krever at et menneske ser planen først, og hva som skjer når den står fast. Finner du ut av det i etterkant, lærer du hva agenten allerede gjorde, på den harde måten.

Du kan bare stole på det du kan se

Dette er den samme ideen bak FabricLoops begrep Lesbarhet: du kan bare styre den tilgangen, og den atferden, du faktisk kan se. For en chatbot er det nesten automatisk — hele utdataene er en melding et menneske leser, så handlingen og registreringen av handlingen er det samme. For en agent er de ikke det. Handlingene skjer inne i andre systemer — et CRM, en innboks, en database, en fil — og med mindre noe logger hva den rørte, endret eller sendte, finnes det ingen måte å gjennomgå det i etterkant, langt mindre stoppe det på forhånd. Lesbarhet er ikke et samsvarstillegg som legges oppå en agent. For en agent er det hele spørsmålet, fordi «svaret» ikke er en setning du kan korrekturlese — det er et sett handlinger du kanskje aldri får vite skjedde, med mindre systemet ble bygget for å vise deg dem.

Det er den praktiske koblingen mellom de to ideene: en agent tar på seg mer, og annen, risiko enn en chatbot, og nettopp derfor trenger den et synlig spor av hva den gjorde, og i tilfellene med høyere innsats et kontrollpunkt før den handler — det FabricLoops begrep Menneskelig intervensjonsrate behandler som et tall du utformer og måler, ikke som en ettertanke du skrur på når noe allerede har gått galt.

Markedet priser dette baklengs, hele tiden

Når du har den virkelige testen, er det åpenbart hvor ofte etiketten lyver i begge retninger. Mange produkter som markedsføres hardt som «AI-agenter» — ordet i hovedoverskriften, i prisnivåene — er under overflaten én godt justert prompt: les inndata, generer utdata, ferdig. Ingen selvstendig verktøykalling, ingen løkke, ingen beslutning uten at et menneske godkjenner neste klikk. Samtidig kjører mye programvare som aldri bruker ordet «agent» — en automatisert fakturaflyt, et overvåkingssystem som ruter om trafikk på egen hånd, et driftsskript som starter en feilet tjeneste på nytt og sjekker om det løste problemet — stille nøyaktig den løkken som er beskrevet over. Ordet på etiketten sier ingenting pålitelig om hvilken maskin du faktisk bruker.

Ingenting av dette krever teknisk bakgrunn for å brukes. Neste gang en leverandør, eller en kollega, kaller noe en agent, spør hva det faktisk gjorde mellom instruksjonen din og resultatet — og hvor mange av de stegene det bestemte selv.