チャットボットとエージェントの本当の違い

一方は質問に答える。もう一方は何をすべきかを決め、実行し、自分の仕事を確かめ、次の一歩へ進む——あなたが頼むのを待たずに。この違いは机上の話ではない。何が失敗しうるか、誰がそれを捕まえるべきかが変わる。

チャットボットは、入力されたものを受け取り、応答を生成して止まる。エージェントは、入力されたものを受け取り、何が起きるべきかを決め、それに手を打ち、うまくいったかを確かめ、次に何をするかを決める——自分で、しばしば多くのステップをまたいで——人がそのどれかを見る前に。区別はそれだけだ。「AIエージェント」を巡って人が争うこと——リスク、システムに必要な監督、マーケティングの混乱の大半——は、この一つの違いから来る。

チャットボットが実際にしていること

チャットボットは一回通しのシステムだ。テキストを渡すとテキストを返し、やり取りはそこで終わる。会話を長く覚えているチャットボットでも、一ターンにしていることは一つだけだ。これまでに言われたことを読み、次のメッセージを予測する。事実を確かめるためにデータベースを引くことも、あなたの代わりに何かを送ることも、あとから自分の答えが持ったかどうかを見に戻ることもない。間違っていても、被害は人が読む一文であり、普通の流れのなかで、それに基づいて動く前に気づける。

人がチャットボットに頼むことの多くは、誰も気づかないうちにこの形に収まる。この文書を要約して、誕生日のメッセージを下書きして、返金方針を説明して、見出しを三つ書いて。どれも、現実の世界と照合することも、チャットの窓の外で行動することも求めない。画面が「チャットボット」ではなく「AIアシスタント」や「コパイロット」と名乗っていても、同じだ。箱のラベルは、中で起きていることを変えない。

エージェントが実際にしていること

エージェントが回しているのは一回通しではなく、ループだ。一歩を計画し、本物のツールを呼んで行動する——データベースを検索する、メッセージを送る、ファイルを編集する、APIを叩く——その行動が実際に返したものを見て、その結果から次の一歩を決める。タスクが終わるか、行き詰まるか、人に確認するよう作られているところまで、これを繰り返す。重要なのは、途中の一歩一歩を誰も承認しないことだ。システムは、前回行動したときに実際に起きたことに基づいて、次に何を試すかを自分で決める。そして、最終回答だけでなく、その判断の一点一点で間違いうる。

このループは新しくも特別でもない。何をすべきかを考え、行動し、結果を観察し、また考える——研究者はその変種を何年も前から記述してきた。経費精算を提出するソフトウェアから、ターミナルを開いて自分でコマンドを実行するコーディングツールまで、エージェントを名乗る製品の下で実際に動いているのもこれだ。よく話すチャットボットではなくエージェントである条件は、世界に働きかけ、何が起きたかを見て、調整することだ。人が一手ごとに承認しなくても、それを繰り返す。

同じ依頼を、二つのやり方で走らせる

似た響きの指示を二つのシステムに渡したとき、その違いはこう見える。

二つ目の質問をチャットボットにしても、答えに見えるものは返ってくる。会話にたまたま貼ったものから生成された、もっともらしい催促メールが三つ。しないのは、実際の請求システムを照会すること、件数を確かめること、本物の下書きフォルダに何かを置くことだ。出力は似て見えることがある。システムが実際にしたことは、似ていない。

これは言葉の争いではない

区別が重要なのは、何が失敗しうるか、誰がそれを捕まえるかが変わるからだ。チャットボットの最悪は、間違った答えだ。人がそれを読み、普通の流れのなかで誤りに気づくか、それに基づいて動かないかを決める。間違いは会話の外に出ない。エージェントの最悪は、現実の世界ですでに取られた間違った行動だ。誤った残高で誤った顧客へ出た催促、誤った値で更新されたレコード、二度発行された返金——誰かが何かを確認する前に。間違いは文ではなくなる。出来事になり、出来事は取り消せない。

だからエージェントには、チャットボットとは別種の監督が要る。チャットボットに必要なのは、主に、手が空いたときに答えを確認する人だ。エージェントに必要なのは、動き出す前に、設計者がすでに決めていることだ。聞かずに取ってよい行動はどれか、人が先に計画を見る必要がある行動はどれか、行き詰まったら何が起きるか。あとから決めると、エージェントがすでにしたことを、痛いやり方で知ることになる。

信頼できるのは、見えているものだけ

これは、FabricLoopのLegibilityと同じ考えだ。実際に見えているアクセスと振る舞いしか、統治できない。チャットボットでは、これはほぼ自動だ。出力の全体が人が読むメッセージなので、行動とその記録は同じものになる。エージェントでは違う。行動は別のシステムの中で起きる——CRM、受信箱、データベース、ファイル。何に触れ、何を変え、何を送ったかを記録するものがなければ、事後に見直す方法もなく、まして事前に止める方法もない。Legibilityは、エージェントの上に重ねるコンプライアンスの飾りではない。エージェントにとってそれが問いの全体だ。その「答え」は校正できる文ではなく、システムが示すように作られていなければ、起きたことさえ知れない一連の行動だからだ。

二つの考えの実務上のつながりはここにある。エージェントはチャットボットより多く、別種のリスクを引き受ける。だからこそ、自分がしたことの見える痕跡と、賭け金の高い場面では行動の前の確認点が要る。FabricLoopの人間介入率が、何かがすでに壊れてから後付けする思いつきではなく、設計し測定する数字として扱うのは、この点だ。

市場はこれを、いつも逆に値付けしている

本当の判定基準を持つと、ラベルが両方向にどれほど嘘をつくかが明らかになる。「AIエージェント」として強く売られる製品の多く——冒頭の大見出しにあるその言葉、料金プランのその言葉——の中身は、よく調整された一つのプロンプトだ。入力を読み、出力を生成して終わり。独立したツール呼び出しもなく、ループもなく、人が次のクリックを承認しない判断もない。一方、一度も「エージェント」という言葉を使わないソフトウェアの多く——自動の請求ワークフロー、自分でトラフィックを迂回する監視システム、落ちたサービスを再起動して直ったかを確かめる運用スクリプト——は、上で述べたループを静かに回している。ラベルの言葉は、実際に使っている機械について信頼できることを何も言わない。

これを使うのに、技術の素養は要らない。次にベンダーや同僚が何かをエージェントと呼んだら、指示と結果のあいだにそれが実際にしたこと、そしてそのうち何ステップを自分で決めたのかを尋ねればよい。