Prava razlika između chatbota i agenta

Jedan od njih odgovara na pitanje. Drugi odlučuje što učiniti, to učini, provjerava svoj rad i prelazi na sljedeći korak — bez čekanja da ga se pita. Ta razlika nije akademska. Mijenja što može poći po zlu i tko bi to trebao uočiti.

Chatbot uzima ono što upišete, generira odgovor i stane. Agent uzima ono što upišete, odlučuje što treba učiniti, poduzima nešto u vezi s tim, provjerava je li to uspjelo, i odlučuje što učiniti dalje — samostalno, često kroz mnogo koraka — prije nego što osoba to uopće vidi. To je cijela razlika. Sve o čemu se ljudi svađaju kad se svađaju o "AI agentima" — rizik, nadzor koji sustav treba, i većina marketinške zbrke — proizlazi iz te jedne razlike.

Što chatbot stvarno radi

Chatbot je sustav s jednim prolazom. Dajete mu tekst, on generira tekst natrag, i interakcija tamo završava. Čak i chatbot s dugim pamćenjem vašeg razgovora još uvijek radi jednu stvar po potezu: čita sve što je do tada rečeno i predviđa sljedeću poruku. Nikad ne upituje bazu podataka da provjeri činjenicu, nikad ne šalje ništa u vaše ime, i nikad se ne vraća naknadno da provjeri je li njegov odgovor bio ispravan. Ako pogriješi, štetu čini rečenica koju osoba pročita — i koju, u normalnom slijedu stvari, može uočiti prije nego što po njoj postupi.

Većina onoga što ljudi traže od chatbotova uklapa se u ovaj oblik bez da to nitko primijeti: sažmi ovaj dokument, napiši poruku za rođendan, objasni našu politiku povrata novca, napiši tri opcije naslova. Ništa od toga ne zahtijeva da sustav provjeri nešto u stvarnom svijetu ili poduzme radnju izvan prozora razgovora. To vrijedi i kad je sučelje označeno kao "AI asistent" ili "copilot" umjesto "chatbot" — naljepnica na kutiji ne mijenja što se događa unutra.

Što agent stvarno radi

Agent pokreće petlju, ne jedan prolaz: planira korak, poduzima radnju pozivajući stvarni alat — pretražuje bazu podataka, šalje poruku, uređuje datoteku, poziva API — pogleda što je ta radnja stvarno vratila, i koristi taj rezultat da odluči o sljedećem koraku. To ponavlja dok zadatak nije završen, dok se ne zaglavi, ili dok nije izgrađen da se javi osobi. Bitan dio je da nitko ne odobrava svaki pojedinačni korak na putu. Sustav samostalno odlučuje što će pokušati sljedeće na temelju onoga što se stvarno dogodilo posljednji put kad je djelovao — i može pogriješiti u svakoj od tih točaka odlučivanja, ne samo u konačnom odgovoru.

Ova petlja nije nova ni egzotična. Istraživači opisuju njezine verzije — razmišljanje o tome što učiniti, djelovanje, promatranje rezultata, ponovno razmišljanje — već godinama, i to je ono što stvarno pokreće proizvode koji se nazivaju agentima, od softvera koji podnosi putne troškove do alata za programiranje koji otvaraju terminal i pokreću svoje naredbe. Ono što nešto čini agentom umjesto vrlo razgovorljivog chatbota je to da djeluje na svijet, promatra što se dogodilo, i prilagođava se — iznova, bez da čovjek odobrava svaki potez.

Isti zahtjev, izveden na dva načina

Evo kako ta razlika izgleda kada dva sustava dobiju upute koje zvuče slično.

Pitate li chatbota drugo pitanje, on će vam i dalje dati nešto što izgleda kao odgovor: tri uvjerljivo zvučeća podsjetnika e-poštom, generirana iz onoga što ste slučajno zalijepili u razgovor. Što neće učiniti je upitati vaš stvarni sustav za račune, provjeriti broj, ili staviti nešto u stvarnu mapu nacrta. Izlaz može izgledati slično. Ono što je sustav stvarno učinio nije.

Zašto ovo nije samo semantička rasprava

Razlika je bitna jer mijenja što može poći po zlu, i tko to uočava. Najgori slučaj za chatbota je pogrešan odgovor. Netko ga pročita, i u normalnom slijedu stvari, ili uočava pogrešku ili odluči ne postupiti po njoj — pogreška nikad ne napušta razgovor. Najgori slučaj za agenta je pogrešna radnja koja je već poduzeta u stvarnom svijetu: podsjetnik koji je otišao pogrešnom klijentu s pogrešnim saldom, zapis ažuriran s pogrešnom vrijednošću, povrat novca izdan dvaput — prije nego što je bilo tko bilo što pregledao. Pogreška više nije rečenica. To je događaj, a događaji se ne mogu poništiti.

Zato agent treba drugačiju vrstu nadzora nego chatbot. Chatbotu je uglavnom potreban netko tko provjerava njegove odgovore, kad god se na to sjeti. Agentu je potrebno da su njegovi dizajneri već odlučili, prije nego što ikad krene, koje radnje može poduzeti bez pitanja, koje zahtijevaju da osoba prvo vidi plan, i što se događa kad se zaglavi. Ako to riješite nakon činjenice, saznat ćete što je agent već učinio na teži način.

Možeš vjerovati samo onome što možeš vidjeti

To je ista ideja iza FabricLoopovog koncepta Legibility: možete upravljati samo pristupom i ponašanjem koje stvarno možete vidjeti. Za chatbota, to je gotovo automatsko — cijeli njegov izlaz je poruka koju osoba pročita, pa su radnja i zapis o radnji ista stvar. Za agenta, nisu. Njegove radnje se događaju unutar drugih sustava — CRM-a, pristigle pošte, baze podataka, datoteke — i osim ako nešto ne zabilježi što je dotaknuo, promijenio, ili poslao, nema načina to pregledati naknadno, a kamoli to zaustaviti prije. Legibility nije lijepa dodatna stavka usklađenosti nadograđena na agenta. Za agenta, to je cijelo pitanje, jer njegov "odgovor" nije rečenica koju možete lektorirati — to je skup radnji za koje možda nikad nećete znati da su se dogodile osim ako sustav nije izgrađen da vam to prikaže.

To je praktična veza između te dvije ideje: agent preuzima veći, i drugačiji, rizik nego chatbot, i baš zato mu je potreban vidljiv trag onoga što je učinio i, u slučajevima s većim ulogom, provjerna točka prije nego što djeluje — što FabricLoopov koncept Human Intervention Rate tretira kao broj koji dizajnirate i mjerite, ne kao dodatnu mjeru koju naknadno zavrtite kad nešto već pođe po zlu.

Tržište ovo stalno naopako procjenjuje

Kad imate stvarni test, očito je koliko često naljepnica laže u oba smjera. Mnogo proizvoda koji se agresivno reklamiraju kao "AI agenti" — riječ u glavnom naslovu, u cjenovnim paketima — su, ispod površine, jedan dobro podešen prompt: pročitaj unos, generiraj izlaz, gotovo. Nema samostalnog poziva alata, nema petlje, nema odluke donesene bez da čovjek odobri sljedeći klik. U isto vrijeme, mnogo softvera koji nikad ne koristi riječ "agent" — automatizirani tok rada za račune, sustav za nadzor koji sam preusmjerava promet, skripta za operacije koja ponovno pokreće neispravnu uslugu i provjerava je li to riješilo problem — tiho pokreće baš tu petlju opisanu gore. Riječ na naljepnici ne govori vam ništa pouzdano o tome koji uređaj stvarno koristite.

Ništa od ovoga ne zahtijeva tehničko znanje za primjenu. Sljedeći put kad prodavač, ili kolega, nešto nazove agentom, pitajte što je stvarno učinio između vaše upute i rezultata — i koliko je od tih koraka odlučio samostalno.