A diferença real entre um chatbot e um agente

Um responde a uma pergunta. O outro decide o que fazer, fá-lo, verifica o próprio trabalho e avança para o passo seguinte — sem esperar que lho peçam. Essa diferença não é académica. Muda o que pode correr mal e quem é suposto detetá-lo.

Um chatbot recebe o que escreve, gera uma resposta e pára. Um agente recebe o que escreve, decide o que tem de acontecer, faz alguma coisa a esse respeito, verifica se resultou e decide o que fazer a seguir — por sua conta, muitas vezes ao longo de vários passos — antes de uma pessoa ver o que quer que seja. É toda a distinção. Tudo aquilo sobre que as pessoas discutem quando discutem «agentes de IA» — o risco, a supervisão de que um sistema precisa e a maior parte da confusão de marketing — decorre dessa única diferença.

O que um chatbot faz de facto

Um chatbot é um sistema de passagem única. Dá-lhe texto, ele devolve texto, e a interação acaba ali. Mesmo um chatbot com uma memória longa da conversa continua a fazer uma só coisa em cada turno: ler tudo o que foi dito até ali e prever a mensagem seguinte. Nunca consulta uma base de dados para confirmar um facto, nunca envia nada em seu nome e nunca volta mais tarde para ver se a resposta se manteve. Se estiver errado, o dano é uma frase que uma pessoa lê — e que, no curso normal das coisas, pode detetar antes de agir com base nela.

A maior parte do que as pessoas pedem aos chatbots cabe nesta forma sem que ninguém repare: resume este documento, redige uma mensagem de aniversário, explica a nossa política de reembolso, escreve três opções de título. Nenhuma destas tarefas exige que o sistema confronte alguma coisa com o mundo real ou pratique uma ação fora da janela de conversa. Continua a ser verdade quando a interface se apresenta como «assistente de IA» ou «copilot» em vez de «chatbot» — o rótulo na caixa não muda o que se passa lá dentro.

O que um agente faz de facto

Um agente corre um ciclo, não uma passagem única: planear um passo, agir chamando uma ferramenta real — pesquisar uma base de dados, enviar uma mensagem, editar um ficheiro, chamar uma API — olhar para o que essa ação devolveu de facto e usar esse resultado para decidir o passo seguinte. Repete isto até a tarefa estar feita, ficar bloqueado ou estar construído para consultar uma pessoa. O que importa é que ninguém aprova cada passo individual pelo caminho. O sistema decide, por si, o que tentar a seguir com base no que aconteceu da última vez que agiu — e pode enganar-se em cada um desses pontos de decisão, não apenas numa resposta final.

Este ciclo não é novo nem exótico. Investigadores descrevem versões dele — raciocinar sobre o que fazer, agir, observar o resultado, raciocinar de novo — há anos, e é o que corre de facto por baixo dos produtos que se dizem agentes, desde software que submete relatórios de despesas até ferramentas de código que abrem um terminal e executam os seus próprios comandos. O que faz de alguma coisa um agente, e não um chatbot muito falador, é que age sobre o mundo, observa o que aconteceu e ajusta — repetidamente, sem um humano a aprovar cada movimento.

O mesmo pedido, executado de duas maneiras

É isto que essa diferença parece quando dois sistemas recebem instruções que soam parecidas.

Se fizer a segunda pergunta a um chatbot, ele ainda lhe entrega alguma coisa que parece uma resposta: três e-mails de lembrete com um tom plausível, gerados a partir do que calhou colar na conversa. O que não fará é consultar o seu sistema de faturação real, verificar a contagem ou colocar o que quer que seja numa pasta de rascunhos verdadeira. O resultado pode parecer semelhante. O que o sistema fez de facto não é.

Porque isto não é apenas uma discussão semântica

A distinção importa porque muda o que pode correr mal e quem o deteta. O pior caso de um chatbot é uma resposta errada. Alguém a lê e, no curso normal das coisas, ou deteta o erro ou decide não agir com base nele — o engano nunca sai da conversa. O pior caso de um agente é uma ação errada já praticada no mundo real: o lembrete que foi para o cliente errado com o saldo errado, o registo atualizado com o valor errado, o reembolso emitido duas vezes — antes de alguém ter revisto o que quer que fosse. O erro já não é uma frase. É um acontecimento, e os acontecimentos não se desfazem.

É por isso que um agente precisa de um tipo de supervisão diferente da de um chatbot. Um chatbot precisa sobretudo de alguém a verificar as respostas, quando essa pessoa tiver tempo. Um agente precisa que os seus criadores já tenham decidido, antes de ele alguma vez correr, que ações pode praticar sem perguntar, quais exigem que uma pessoa veja o plano primeiro e o que acontece quando fica bloqueado. Se deixar isso para depois, descobre o que o agente já fez da pior maneira.

Só se pode confiar no que se consegue ver

É a mesma ideia por detrás do conceito de Legibilidade da FabricLoop: só se governa o acesso, e o comportamento, que se consegue de facto ver. Num chatbot, isso é quase automático — toda a saída é uma mensagem que uma pessoa lê, por isso a ação e o registo da ação são a mesma coisa. Num agente, não são. As ações dele acontecem dentro de outros sistemas — um CRM, uma caixa de correio, uma base de dados, um ficheiro — e, a menos que alguma coisa registe o que tocou, alterou ou enviou, não há forma de o rever depois, quanto mais de o travar antes. A Legibilidade não é um extra de conformidade colocado por cima de um agente. Para um agente, é a questão toda, porque a «resposta» dele não é uma frase que se possa rever — é um conjunto de ações de que talvez nunca se saiba que aconteceram, a menos que o sistema tenha sido construído para as mostrar.

É a ligação prática entre as duas ideias: um agente assume mais risco, e um risco diferente, do que um chatbot, e é exatamente por isso que precisa de um rasto visível do que fez e, nos casos de maior consequência, de um ponto de controlo antes de agir — aquilo que o conceito de Taxa de Intervenção Humana da FabricLoop trata como um número que se desenha e se mede, não como um acrescento que se aparafusa depois de alguma coisa já ter corrido mal.

O mercado põe o preço disto ao contrário, constantemente

Quando se tem o teste verdadeiro, torna-se óbvio com que frequência o rótulo mente nos dois sentidos. Muitos produtos vendidos com força como «agentes de IA» — a palavra no título principal, nos escalões de preço — são, por baixo, um único prompt bem afinado: ler a entrada, gerar a saída, fim. Sem chamada independente a uma ferramenta, sem ciclo, sem decisão tomada sem um humano a aprovar o clique seguinte. Entretanto, muito software que nunca usa a palavra «agente» — um fluxo automatizado de faturação, um sistema de monitorização que reencaminha tráfego por si, um script de operações que reinicia um serviço falhado e verifica se isso o corrigiu — corre em silêncio exatamente o ciclo descrito acima. A palavra no rótulo não diz nada de fiável sobre a máquina que se está de facto a usar.

Nada disto exige formação técnica para se aplicar. Da próxima vez que um fornecedor, ou um colega, chamar agente a alguma coisa, pergunte o que ela fez de facto entre a sua instrução e o resultado — e quantos desses passos decidiu por si.