Khác biệt thực sự giữa chatbot và agent

Một bên trả lời câu hỏi. Bên kia quyết định phải làm gì, làm việc đó, tự kiểm tra công việc của mình, rồi chuyển sang bước tiếp theo — mà không chờ bạn hỏi. Khác biệt ấy không phải chuyện học thuật. Nó thay đổi điều gì có thể sai, và ai phải bắt được sai sót đó.

Chatbot lấy những gì bạn gõ, tạo một câu trả lời, rồi dừng. Agent lấy những gì bạn gõ, quyết định điều gì cần xảy ra, làm một việc về điều đó, kiểm tra xem việc ấy có hiệu quả không, rồi quyết định bước tiếp theo — tự mình, thường qua nhiều bước — trước khi có người nhìn thấy bất cứ phần nào. Đó là toàn bộ sự phân biệt. Mọi thứ người ta tranh luận khi nói về “AI agent” — rủi ro, sự giám sát mà một hệ thống cần, và phần lớn sự nhầm lẫn của marketing — đều đi ra từ một khác biệt ấy.

Chatbot thực sự làm gì

Chatbot là một hệ thống một lượt. Bạn đưa cho nó văn bản, nó tạo văn bản trả lại, và tương tác kết thúc ở đó. Ngay cả chatbot có bộ nhớ dài về cuộc trò chuyện của bạn vẫn chỉ làm một việc mỗi lượt: đọc mọi điều đã nói cho đến lúc ấy và dự đoán tin nhắn tiếp theo. Nó không bao giờ truy vấn cơ sở dữ liệu để kiểm tra một sự thật, không bao giờ gửi gì thay bạn, và không bao giờ quay lại sau để xem câu trả lời của nó còn đứng vững không. Nếu nó sai, thiệt hại là một câu mà một người đọc — và trong diễn biến thông thường, người đó có thể bắt được trước khi hành động theo câu ấy.

Phần lớn những gì người ta nhờ chatbot làm khớp với hình này mà chẳng ai để ý: tóm tắt tài liệu này, soạn tin nhắn sinh nhật, giải thích chính sách hoàn tiền của chúng ta, viết ba phương án tiêu đề. Không việc nào đòi hệ thống đối chiếu thứ gì với thế giới thực hay thực hiện một hành động bên ngoài cửa sổ chat. Điều đó vẫn đúng khi giao diện được gắn nhãn “trợ lý AI” hay “copilot” thay vì “chatbot” — nhãn trên hộp không đổi những gì diễn ra bên trong.

Agent thực sự làm gì

Agent chạy một vòng lặp, không phải một lượt: lập kế hoạch một bước, hành động bằng cách gọi một công cụ thật — tìm cơ sở dữ liệu, gửi tin nhắn, sửa tệp, gọi API — nhìn những gì hành động ấy thực sự trả về, rồi dùng kết quả đó để quyết định bước tiếp theo. Nó lặp lại cho đến khi việc xong, nó bị kẹt, hoặc nó được xây để hỏi một người. Phần quan trọng là không ai duyệt từng bước riêng lẻ trên đường đi. Hệ thống tự quyết định sẽ thử gì tiếp theo dựa trên những gì thực sự xảy ra lần cuối nó hành động — và nó có thể sai ở mỗi điểm quyết định ấy, không chỉ ở câu trả lời cuối.

Vòng lặp này không mới và không lạ. Các nhà nghiên cứu đã mô tả các phiên bản của nó — suy luận xem phải làm gì, hành động, quan sát kết quả, rồi suy luận lại — trong nhiều năm, và đó chính là thứ đang chạy bên dưới các sản phẩm tự gọi mình là agent, từ phần mềm nộp báo cáo chi phí đến công cụ lập trình mở terminal rồi tự chạy lệnh của mình. Điều khiến một thứ là agent chứ không phải chatbot rất hay nói là nó tác động lên thế giới, quan sát chuyện đã xảy ra, và điều chỉnh — lặp đi lặp lại, không có người duyệt từng nước đi.

Cùng một yêu cầu, chạy theo hai cách

Khác biệt ấy trông như thế này khi hai hệ thống nhận những chỉ dẫn nghe có vẻ giống nhau.

Hỏi chatbot câu thứ hai, nó vẫn đưa cho bạn thứ trông như một câu trả lời: ba email nhắc nghe có vẻ hợp lý, được tạo từ bất cứ gì bạn tình cờ dán vào cuộc trò chuyện. Điều nó sẽ không làm là truy vấn hệ thống hóa đơn thực của bạn, kiểm tra số lượng, hay đặt bất cứ gì vào một thư mục bản nháp thật. Đầu ra có thể trông giống nhau. Việc hệ thống thực sự đã làm thì không.

Vì sao đây không chỉ là tranh luận về chữ

Sự phân biệt quan trọng vì nó thay đổi điều gì có thể sai, và ai bắt được sai sót. Trường hợp xấu nhất của chatbot là một câu trả lời sai. Ai đó đọc nó, và trong diễn biến bình thường hoặc bắt được lỗi hoặc quyết định không hành động theo — sai sót không bao giờ rời cuộc trò chuyện. Trường hợp xấu nhất của agent là một hành động sai đã xảy ra trong thế giới thực: lời nhắc gửi nhầm khách hàng với số dư sai, bản ghi được cập nhật bằng giá trị sai, khoản hoàn tiền được phát hành hai lần — trước khi có ai xem lại bất cứ điều gì. Sai sót không còn là một câu. Nó là một sự kiện, và sự kiện không tự hoàn tác.

Đó là lý do agent cần một kiểu giám sát khác chatbot. Chatbot chủ yếu cần ai đó kiểm tra câu trả lời của nó, khi người ấy rảnh. Agent cần những người thiết kế nó đã quyết định từ trước, trước khi nó từng chạy, hành động nào nó được làm mà không hỏi, hành động nào đòi một người xem kế hoạch trước, và chuyện gì xảy ra khi nó bị kẹt. Nếu tính chuyện đó sau khi sự đã rồi, bạn sẽ biết agent đã làm gì theo cách khó chịu.

Bạn chỉ có thể tin điều mình nhìn thấy

Đây chính là ý tưởng đằng sau khái niệm Độ rõ ràng của FabricLoop: bạn chỉ quản trị được quyền truy cập, và hành vi, mà bạn thực sự nhìn thấy. Với chatbot, điều đó gần như tự động — toàn bộ đầu ra của nó là một tin nhắn mà một người đọc, nên hành động và bản ghi của hành động là cùng một thứ. Với agent thì không. Hành động của nó xảy ra bên trong các hệ thống khác — CRM, hộp thư, cơ sở dữ liệu, tệp — và trừ khi có thứ gì đó ghi lại nó đã chạm, thay đổi hay gửi gì, không có cách xem lại sau đó, huống hồ dừng nó trước. Độ rõ ràng không phải một tiện ích tuân thủ gắn thêm lên agent. Với agent, đó là toàn bộ câu hỏi, vì “câu trả lời” của nó không phải một câu bạn có thể đọc soát — đó là một tập hành động mà bạn có thể không bao giờ biết đã xảy ra, trừ khi hệ thống được xây để cho bạn thấy.

Đó là mối liên hệ thực tiễn giữa hai ý tưởng: agent gánh nhiều rủi ro hơn, và rủi ro khác, so với chatbot, và chính vì thế nó cần một vết thấy được về những gì nó đã làm, và trong các trường hợp cược cao hơn, một điểm kiểm trước khi nó hành động — điều khái niệm Tỷ lệ Can thiệp Con người của FabricLoop coi là một con số bạn thiết kế và đo, không phải một ý nghĩ sau mà bạn gắn vào khi đã có chuyện sai.

Thị trường định giá điều này ngược, liên tục

Khi đã có bài kiểm tra thật, sẽ thấy rõ nhãn hiệu nói dối theo cả hai hướng thường xuyên thế nào. Rất nhiều sản phẩm được marketing mạnh là “AI agent” — từ ấy ở dòng tiêu đề chính, ở các bậc giá — bên dưới chỉ là một prompt được chỉnh kỹ: đọc đầu vào, tạo đầu ra, xong. Không có lần gọi công cụ độc lập, không có vòng lặp, không có quyết định nào mà không có người duyệt cú nhấp tiếp theo. Trong khi đó, rất nhiều phần mềm không bao giờ dùng từ “agent” — một quy trình hóa đơn tự động, một hệ thống giám sát tự đổi hướng lưu lượng, một script vận hành khởi động lại dịch vụ bị lỗi rồi kiểm tra việc đó có sửa được không — đang lặng lẽ chạy đúng vòng lặp mô tả ở trên. Từ trên nhãn không cho bạn biết điều gì đáng tin về cỗ máy bạn thực sự đang dùng.

Không điều nào trong số này đòi nền tảng kỹ thuật mới áp dụng được. Lần tới khi một nhà cung cấp, hoặc một đồng nghiệp, gọi một thứ là agent, hãy hỏi nó thực sự đã làm gì giữa chỉ dẫn của bạn và kết quả — và bao nhiêu trong số các bước ấy nó tự quyết định.