Настоящая разница между чат-ботом и агентом

Один отвечает на вопрос. Другой решает, что делать, делает это, проверяет собственную работу и переходит к следующему шагу — не дожидаясь, пока вы попросите. Эта разница не академическая. Она меняет то, что может пойти не так, и то, кто должен это поймать.

Чат-бот берёт то, что вы напечатали, порождает ответ и останавливается. Агент берёт то, что вы напечатали, решает, что должно произойти, делает с этим что-то, проверяет, сработало ли это, и решает, что делать дальше — сам, часто за много шагов, — прежде чем человек увидит хоть что-то. В этом и состоит всё различие. Всё, о чём спорят, когда спорят об «ИИ-агентах» — риск, надзор, который нужен системе, и большая часть маркетинговой путаницы, — вытекает из этой одной разницы.

Что чат-бот делает на самом деле

Чат-бот — это система одного прохода. Вы даёте ему текст, он возвращает текст, и взаимодействие на этом заканчивается. Даже чат-бот с долгой памятью о разговоре по-прежнему делает одно дело за ход: читает всё сказанное до сих пор и предсказывает следующее сообщение. Он никогда не запрашивает базу данных, чтобы проверить факт, никогда не отправляет ничего от вашего имени и никогда не возвращается позже, чтобы выяснить, устоял ли его ответ. Если он ошибся, ущерб — это предложение, которое человек читает и которое в обычном ходе дел может поймать, прежде чем действовать на его основании.

Большая часть того, о чём люди просят чат-ботов, укладывается в эту форму, и никто этого не замечает: резюмируй этот документ, набросай поздравление с днём рождения, объясни нашу политику возврата, напиши три варианта заголовка. Ни одна из этих задач не требует, чтобы система сверила что-либо с реальным миром или совершила действие за пределами окна чата. Это остаётся верным и тогда, когда интерфейс назван «ИИ-ассистентом» или «copilot», а не «чат-ботом»: ярлык на коробке не меняет того, что происходит внутри.

Что агент делает на самом деле

Агент выполняет цикл, а не один проход: спланировать шаг, совершить действие, вызвав настоящий инструмент — поискать в базе данных, отправить сообщение, отредактировать файл, обратиться к API, — посмотреть, что это действие на самом деле вернуло, и по этому результату решить, каким будет следующий шаг. Он повторяет это, пока задача не выполнена, пока он не застрянет или пока его не построят так, чтобы он сверялся с человеком. Важно то, что никто не утверждает каждый отдельный шаг по пути. Система сама решает, что попробовать дальше, исходя из того, что действительно произошло в прошлый раз, когда она действовала, — и она может ошибиться в каждой из этих точек решения, а не только в итоговом ответе.

Этот цикл не нов и не экзотичен. Исследователи описывают его варианты — рассуждать о том, что делать, действовать, наблюдать результат, рассуждать снова — уже много лет, и именно он работает под продуктами, которые называют себя агентами: от программ, которые подают отчёты о расходах, до инструментов для кода, которые открывают терминал и выполняют собственные команды. Агентом, а не очень разговорчивым чат-ботом, вещь делает то, что она действует в мире, смотрит, что произошло, и поправляется — снова и снова, без того чтобы человек одобрял каждый ход.

Одна и та же просьба, выполненная двумя способами

Вот как выглядит эта разница, когда двум системам дают инструкции, которые звучат похоже.

Задайте чат-боту второй вопрос, и он всё равно выдаст нечто, похожее на ответ: три правдоподобно звучащих письма-напоминания, порождённых из того, что вы случайно вставили в разговор. Чего он не сделает — не запросит вашу настоящую систему счетов, не проверит число и не положит ничего в настоящую папку черновиков. Вывод может выглядеть похоже. То, что система сделала на самом деле, — нет.

Почему это не просто спор о словах

Различие важно, потому что оно меняет то, что может пойти не так, и то, кто это поймает. Худший случай чат-бота — неверный ответ. Кто-то его читает и в обычном ходе дел либо ловит ошибку, либо решает не действовать по нему — ошибка никогда не покидает разговор. Худший случай агента — неверное действие, уже совершённое в реальном мире: напоминание, ушедшее не тому клиенту с неверным остатком, запись, обновлённая неверным значением, возврат, оформленный дважды, — до того, как кто-либо что-либо проверил. Ошибка больше не предложение. Это событие, а события не отменяются сами.

Именно поэтому агенту нужен иной надзор, чем чат-боту. Чат-боту в основном нужен кто-то, кто проверяет его ответы, когда до этого дойдут руки. Агенту нужно, чтобы его создатели уже решили, ещё до того, как он когда-либо запустится, какие действия он может совершать, не спрашивая, какие требуют, чтобы человек сначала увидел план, и что происходит, когда он застревает. Если разбираться в этом задним числом, вы узнаете, что агент уже сделал, самым тяжёлым способом.

Доверять можно только тому, что видно

Это та же идея, что стоит за понятием FabricLoop Прозрачность: управлять можно только тем доступом и тем поведением, которые действительно видны. У чат-бота это почти автоматически: весь его вывод — сообщение, которое человек читает, поэтому действие и запись о действии суть одно и то же. У агента — нет. Его действия происходят внутри других систем — в CRM, во входящих, в базе данных, в файле — и если ничто не фиксирует, к чему он прикоснулся, что изменил или что отправил, проверить это задним числом невозможно, не говоря уже о том, чтобы остановить заранее. Прозрачность — не надстройка для соответствия требованиям, которую кладут поверх агента. Для агента это и есть весь вопрос, потому что его «ответ» — не предложение, которое можно вычитать, а набор действий, о которых вы можете никогда не узнать, если система не была построена так, чтобы их показать.

В этом практическая связь двух идей: агент берёт на себя больший и иной риск, чем чат-бот, и именно поэтому ему нужен видимый след того, что он сделал, а в случаях с более высокой ставкой — контрольная точка до того, как он начнёт действовать. Понятие FabricLoop Уровень человеческого вмешательства рассматривает это как число, которое проектируют и измеряют, а не как запоздалую мысль, которую прикручивают, когда что-то уже пошло не так.

Рынок постоянно оценивает это наоборот

Когда у вас есть настоящая проверка, становится очевидно, как часто ярлык лжёт в обе стороны. Немало продуктов, которые усиленно продают как «ИИ-агентов» — слово в главном заголовке, в тарифных ступенях, — под капотом представляют собой один хорошо настроенный запрос: прочитай вход, порожди выход, готово. Никакого самостоятельного вызова инструмента, никакого цикла, никакого решения без того, чтобы человек одобрил следующий щелчок. Тем временем немало программ, которые никогда не используют слово «агент» — автоматизированный процесс выставления счетов, система мониторинга, которая сама перенаправляет трафик, операционный скрипт, который перезапускает отказавшую службу и проверяет, исправило ли это положение, — тихо выполняют ровно тот цикл, что описан выше. Слово на ярлыке ничего надёжного не говорит о том, какой машиной вы на самом деле пользуетесь.

Чтобы применить это, не нужна техническая подготовка. В следующий раз, когда поставщик или коллега назовёт что-то агентом, спросите, что оно на самом деле сделало между вашей инструкцией и результатом — и сколько из этих шагов оно решило само.