Nếu đang đánh giá AI hội thoại cho hỗ trợ, bán hàng hoặc công cụ nội bộ, có lẽ bạn đã thấy các nhà cung cấp dùng “chatbot” và “AI agent” với những nghĩa rất khác nhau. Một số sản phẩm được gọi là agent chỉ là giao diện đơn giản cho mô hình ngôn ngữ, không có quyền dùng công cụ. Một số chatbot lại đưa ra quyết định tự chủ hơn những hệ thống tự nhận là agent.
Chatbot là giao diện hội thoại; AI agent là một cách điều khiển công việc phía sau giao diện đó. Chatbot có luồng được lập trình sẵn có thể gọi API và lưu trạng thái. Agent có thể chọn bước tiếp theo từ các công cụ được phép, nhưng việc lựa chọn đó không xác thực danh tính người dùng, cấp quyền ghi hay chứng minh tác vụ đã thành công. Bài viết so sánh ba kiến trúc và dùng một yêu cầu trả hàng giả định để làm rõ những giới hạn này.
Lưu ý về thuật ngữ
Ngành chưa có định nghĩa thống nhất, nên bài viết dùng ba nhóm làm cơ sở thảo luận, không xem tên gọi thương mại là thông số kỹ thuật:
-
Chatbot dựa trên quy tắc: Phân loại ý định, trích xuất thực thể và luồng hội thoại lập trình sẵn quyết định bước tiếp theo. Câu trả lời dùng mẫu văn bản thay vì LLM. Luồng có thể lưu trạng thái, gọi API và yêu cầu phê duyệt.
-
Chatbot LLM chỉ trả lời: Mô hình ngôn ngữ trả lời từ ngữ cảnh được cung cấp, thường lấy từ kho kiến thức. Trong ví dụ của bài viết, hệ thống này không có công cụ thực hiện hành động. Những sản phẩm khác mang tên chatbot hoặc copilot có thể có công cụ, nhiều lần gọi mô hình và phê duyệt của con người.
-
AI agent: LLM chọn bước và công cụ trong một vòng lặp đã cấu hình, rồi dùng quan sát để quyết định cách tiếp tục. Bộ nhớ, quyền, điều kiện dừng và sự xem xét của con người phụ thuộc vào cách triển khai. Mức tự chủ bị giới hạn bởi công cụ và thẩm quyền mà hệ thống thực sự cung cấp.
Đây là các ví dụ sơ đồ. Mô hình điều phối nhiều hơn không bảo đảm độ chính xác cao hơn, chi phí thấp hơn hay kết quả nghiệp vụ đã hoàn tất.
Một điểm phân biệt kiến trúc hữu ích là ai chọn bước tiếp theo: logic ứng dụng định sẵn hay mô hình. Hướng dẫn của Anthropic về quy trình và agent dùng sự phân biệt này và khuyên bắt đầu bằng giải pháp đơn giản nhất đáp ứng tác vụ. Hệ thống kết hợp có thể sử dụng cả hai.
Giả sử khách hàng nói: “Tôi nhận nhầm sản phẩm. Chính sách trả hàng của bạn là gì, và bạn có thể bắt đầu yêu cầu trả hàng không?” Phần dưới là ví dụ thiết kế giả định, không phải lượt chạy Quickchat AI đã được ghi lại hay quy trình hoàn tiền có sẵn.
| Giai đoạn | Công việc được phép | Bằng chứng cần có trước khi thông báo thành công |
|---|---|---|
| Trả lời về chính sách | Truy xuất chính sách đã công bố mà không tiết lộ dữ liệu đơn hàng riêng tư | Nguồn chính sách áp dụng; câu trả lời không chứng minh đơn hàng này đủ điều kiện |
| Đọc đơn hàng | Dùng ngữ cảnh khách hàng đã xác thực và API kiểm soát quyền truy cập đúng đơn hàng | Phản hồi được cấp quyền chứa các trường cần thiết; email hoặc mã đơn nhập trong chat không phải xác thực |
| Yêu cầu trả hàng | Kiểm tra riêng quyền ghi, điều kiện chính sách và xác nhận bắt buộc của khách hàng | Kết quả đã xác nhận từ hệ thống trả hàng, chẳng hạn mã yêu cầu được chấp nhận; chưa có nghĩa tiền đã được hoàn hoặc việc trả hàng đã hoàn tất |
| Chuyển ngoại lệ cho người xử lý | Dừng khi thiếu thẩm quyền, ngoại lệ không được hỗ trợ hoặc kết quả ghi chưa rõ | Yêu cầu chuyển tiếp được ghi nhận với đích hoặc hàng đợi đã biết; không hứa rằng nhân viên đã trả lời |
Quy trình xác định sẵn có thể thực hiện cả bốn giai đoạn. Hệ thống chỉ trả lời có thể giải thích chính sách và hướng khách hàng đến dịch vụ có xác thực. Agent có thể chọn trong các bước đã cấu hình, nhưng vẫn phải đáp ứng cùng yêu cầu về truy cập và bằng chứng.
Chatbot dựa trên quy tắc là gì?
Chatbot dựa trên quy tắc hội thoại bằng văn bản hoặc giọng nói theo logic định sẵn. Nó kết hợp phân loại ý định, trích xuất thực thể và luồng hội thoại được lập trình.
Chatbot dựa trên quy tắc hoạt động như thế nào
Kiến trúc chatbot điển hình có ba thành phần:
-
Hiểu ngôn ngữ tự nhiên (NLU): Phân tích thông điệp để nhận biết ý định và trích xuất thực thể như ngày, sản phẩm hoặc mã đơn hàng. Nhiều hệ thống NLU kết hợp biểu thức chính quy, so khớp từ khóa và bộ phân loại đã huấn luyện.
-
Bộ quản lý hội thoại: Máy trạng thái quyết định bước tiếp theo từ trạng thái hội thoại hiện tại và ý định nhận biết được. Mỗi trạng thái có các hướng chuyển tiếp; bộ quản lý đi theo luồng đã định.
-
Bộ tạo câu trả lời: Lấy mẫu phản hồi gắn với trạng thái hiện tại. Ở chatbot đơn giản, đó là bảng tra cứu. Mẫu phức tạp hơn có các trường được điền bằng thực thể đã trích xuất.
Sau khi dịch vụ xác thực khách hàng và kiểm tra quyền truy cập đơn hàng, một luồng giả định rút gọn có thể như sau:
Người dùng: “Đơn hàng #12345 đang ở trạng thái nào?”
→ NLU: intent=order_status, entity={order_id: 12345}
→ Bộ quản lý hội thoại: state=check_order → gọi order_status_api(12345) có cấp quyền
→ Phản hồi: “Đơn hàng #12345 đã gửi ngày 7 tháng 4, dự kiến đến ngày 11 tháng 4.”
Kiến trúc được thể hiện như sau:
Cách này phù hợp với bài toán có phạm vi đóng, trong đó tập ý định nhỏ và được định nghĩa rõ. Bot FAQ, đặt lịch hẹn hoặc tra cứu trạng thái đơn hàng đều có thể xây dựng theo cách này.
Hạn chế của kiến trúc dựa trên quy tắc
Máy trạng thái phải xử lý rõ ràng các đường đi được hỗ trợ. Giới hạn thực tế phụ thuộc vào bộ phân loại, thiết kế quy trình và phạm vi tích hợp:
-
Độ bao phủ ý định: Yêu cầu phải khớp với ý định được hỗ trợ hoặc đường dự phòng. Cách diễn đạt khác thường có thể bị phân loại sai, dù bộ phân loại được huấn luyện có thể khái quát ngoài câu chữ chính xác. Các ý định chồng lấn cần đánh giá và bảo trì.
-
Nhánh định sẵn: Bộ quản lý có thể kết hợp thông tin lưu qua nhiều lượt và rẽ nhánh dựa trên đó. Loại quyết định mới vẫn cần quy tắc hoặc thành phần quyết định khác; đồ thị không tự sáng tạo quy trình mới khi chạy.
-
Trích xuất thực thể dễ sai: Điền trường truyền thống hoạt động với dữ liệu có cấu trúc như ngày, số và SKU, nhưng khó xử lý mô tả mở, tham chiếu mơ hồ và yêu cầu nhiều phần.
-
Bảo trì quy trình: Trường hợp mới có thể cần thêm ý định, nhánh, mẫu hoặc tích hợp. Thành phần tái sử dụng có ích, nhưng cần đo công sức bảo trì thay vì giả định nó tăng theo một tốc độ cố định.
Để tìm hiểu sự phát triển của các kiến trúc này, xem Từ chatbot NLP đến AI tạo sinh.
AI agent là gì?
Trong bài này, AI agent là hệ thống trong đó LLM chọn bước hoặc công cụ tiếp theo dựa trên tác vụ và quan sát. Nó có thể hoạt động bên trong quy trình lập trình sẵn lớn hơn. Bộ nhớ lâu dài và quyền thay đổi hệ thống bên ngoài là khả năng tùy chọn, không tự xuất hiện vì tên gọi.
Thuật ngữ “agent” cũng có lịch sử rộng hơn trong nghiên cứu AI: hệ thống nhận biết môi trường và hành động để đạt mục tiêu. Bài viết tập trung vào điều phối dựa trên LLM, nơi quan sát, lập kế hoạch, thực thi công cụ và đánh giá có thể lặp lại đến khi đạt điều kiện dừng.
AI agent hoạt động như thế nào
Kiến trúc cốt lõi là vòng lặp suy luận, còn được gọi là vòng lặp ReAct theo bài nghiên cứu ReAct đã mô tả chính thức mẫu này. Vòng lặp có bốn giai đoạn:
-
Quan sát: Agent nhận thông điệp cùng lịch sử hội thoại, chỉ dẫn hệ thống và ngữ cảnh truy xuất, như bài viết liên quan trong kho kiến thức.
-
Suy luận: LLM dùng ngữ cảnh có sẵn để chọn câu trả lời, yêu cầu làm rõ hoặc gọi công cụ. Khác với chuyển trạng thái cố định, lựa chọn này diễn ra khi chạy. Nó có thể sai và cần được đánh giá.
-
Hành động: Mô hình đề xuất lời gọi có cấu trúc, như
search_knowledge_base(query="return policy")hoặccreate_return_request(order_id=12345). Kiểm soát ứng dụng và API đích phải áp dụng giới hạn thao tác và phạm vi trước khi thực thi. Lời gọi được đề xuất không phải sự cấp quyền. -
Đánh giá: Hệ thống xem xét kết quả rồi quyết định tiếp tục, trả lời hoặc dừng để con người xem xét. Việc mô hình tự cho rằng đã xong không phải bằng chứng độc lập rằng nghiệp vụ thành công. Hãy giới hạn vòng lặp và xác minh trạng thái bên ngoài khi cần.
Cùng tình huống trả hàng đó có thể được mô tả bằng luồng điều khiển đề xuất. Không lời gọi nào dưới đây đã được thực thi và không kết quả nào đã được quan sát. Tên thao tác chỉ để minh họa, không phải cấu hình Quickchat AI có thể dán vào tài khoản.
Khách hàng: “Tôi nhận nhầm sản phẩm. Bạn có thể bắt đầu trả hàng không?”
[Chính sách] Truy xuất chính sách áp dụng và dẫn nguồn cho các điều kiện.
[Đọc] Yêu cầu ngữ cảnh khách hàng đã xác thực và quyền truy cập đơn đó.
Tra cứu đúng đơn qua dịch vụ được cấp quyền.
Xem “nhận nhầm sản phẩm” là lời khách kể cho đến khi xác minh.
[Kiểm soát] Kiểm tra chính sách, quyền ghi và xác nhận bắt buộc.
Nếu thiếu điều kiện, hỏi rõ hoặc chuyển cho người xử lý.
[Ghi] Chỉ gửi yêu cầu sau khi vượt qua bước kiểm tra quyền ghi riêng.
[Xác minh] Chỉ thông báo được chấp nhận khi kết quả bên ngoài xác nhận.
Yêu cầu được chấp nhận không có nghĩa tiền đã được hoàn.
Nếu kết quả chưa rõ, kiểm tra trạng thái hoặc chuyển tiếp; không thử lại mù quáng.
[Chuyển tiếp] Ghi lại điểm chưa rõ cùng hàng đợi hoặc người nhận đã biết.
Không nói rằng nhân viên đã trả lời.
Phần mang tính agent là chọn bước tiếp theo được phép dựa trên ngữ cảnh. Dịch vụ vẫn cần công cụ đã định nghĩa, quy tắc chính sách, kiểm tra danh tính và xử lý lỗi. Quy trình cố định có thể làm cùng các thao tác; kiến trúc thay đổi cách điều phối, không thay đổi thẩm quyền của khách hàng.
Sử dụng công cụ và gọi hàm
Sử dụng công cụ, hay gọi hàm, nối mô hình với việc lấy thông tin hoặc thực hiện thao tác bên ngoài. LLM nhận lược đồ có tên, kiểu và mô tả tham số. Nó có thể đề xuất một lời gọi trong các công cụ sẵn có; ứng dụng quyết định lời gọi có được phép hay không và cách đưa kết quả ra ngoài.
Các nhóm công cụ thường gặp ở agent phục vụ khách hàng gồm:
| Nhóm | Ví dụ |
|---|---|
| Truy xuất kiến thức | Tìm trong kho kiến thức, tra FAQ, lấy tài liệu sản phẩm |
| Tra cứu dữ liệu | Kiểm tra đơn hàng, lấy dữ liệu tài khoản, hỏi tồn kho |
| Thao tác ghi | Tạo yêu cầu trả hàng hoặc phiếu hỗ trợ, cập nhật trường khách hàng được phép; mỗi thao tác cần thẩm quyền riêng |
| Liên lạc | Gửi email, kích hoạt SMS, đăng lên Slack |
| Chuyển cấp xử lý | Yêu cầu con người xem xét với ngữ cảnh phù hợp và hàng đợi hoặc người nhận đã biết |
Lược đồ mô tả hình thức lời gọi; nó không xác thực khách hàng hay thực thi chính sách nghiệp vụ. Hãy kiểm tra tham số và quyền truy cập ở đích, giới hạn trường được tiết lộ, đồng thời phân biệt đọc với thay đổi trạng thái. Chỉ dẫn trong prompt không đủ tạo thành ranh giới bảo mật.
Hướng dẫn xây dựng AI agent thực hiện hành động thật giải thích yêu cầu HTTP được mô tả và gọi trong hội thoại. Bài tiếp theo về sắp thứ tự Actions bằng điều kiện và kết quả đã lưu giới thiệu Run only when và Save to memory. Các kiểm soát này không xác lập danh tính khách hàng hoặc làm thao tác ghi trở nên idempotent; vẫn cần metadata đáng tin cậy và cấp quyền ở đích. Những liên kết giữ nguyên ngữ cảnh demo riêng; luồng trả hàng giả định trong bài này chưa được thử nghiệm.
Bộ nhớ và quản lý ngữ cảnh
Chatbot được lập trình có thể lưu các trường như order_id=12345 và intent=order_status, cùng lịch sử hội thoại hoặc trạng thái khác. Agent thường kết hợp nhiều loại ngữ cảnh cho yêu cầu mở. Không kiến trúc nào tự động cung cấp bộ nhớ an toàn giữa các phiên.
Các lớp ngữ cảnh hữu ích gồm:
- Lịch sử hội thoại: Chuỗi thông điệp nguyên bản trong phiên hiện tại.
- Bộ nhớ làm việc: Kết quả công cụ trung gian và bước suy luận giúp định hướng quyết định sau.
- Ngữ cảnh truy xuất: Bài viết kiến thức, tài liệu sản phẩm hoặc hồ sơ khách hàng lấy bằng tạo sinh tăng cường truy xuất (RAG) cho truy vấn hiện tại.
- Bộ nhớ dài hạn (tùy chọn): Thông tin về người dùng hoặc tài khoản được giữ qua các phiên, như ngôn ngữ ưu tiên, vấn đề trước đây hoặc cấp thuê bao.
Cửa sổ ngữ cảnh của LLM là một ràng buộc kỹ thuật. Tóm tắt, cửa sổ trượt và truy xuất chọn lọc có thể giảm kích thước ngữ cảnh nhưng bỏ sót chi tiết quan trọng. Hãy giữ danh tính, quyền và trạng thái giao dịch có thẩm quyền trong hệ thống đáng tin cậy thay vì dựa vào bản tóm tắt của mô hình.
Khoảng giữa: LLM chatbot và copilot
Chatbot LLM chỉ trả lời có thể lấy kiến thức, đưa kiến thức cùng thông điệp vào mô hình rồi trả kết quả. Thiết kế đơn giản này không có vòng lặp hành động do mô hình điều phối. Đây là một mẫu triển khai, không phải định nghĩa của mọi chatbot hoặc copilot.
Với câu hỏi về chính sách, hệ thống truy xuất và trả lời có thể đủ. Nó có thể xử lý nhiều cách diễn đạt mà không tạo ý định cho từng câu. Chất lượng truy xuất, ngôn ngữ hỗ trợ và chất lượng nguồn vẫn cần được đánh giá.
Trong ví dụ trả hàng, hệ thống chỉ trả lời giải thích chính sách đã công bố nhưng không đọc dữ liệu đơn hàng riêng tư hoặc tạo yêu cầu. Hãy thêm quy trình có xác thực hoặc công cụ được giới hạn phù hợp nếu cần những thao tác đó. Tích hợp được lập trình sẵn cũng có thể thực hiện chúng.
Cũng có thể kết hợp: LLM phân loại yêu cầu, quy trình xác định sẵn áp dụng kiểm tra, rồi mô hình soạn câu trả lời. Hãy đánh giá nơi ra quyết định, thao tác được phép và bằng chứng được trả về thay vì suy ra từ tên “chatbot”, “copilot” hay “agent”.
So sánh song song
Cột giữa mô tả ví dụ chỉ trả lời của bài này. RAG, trạng thái lâu dài và quyền truy cập API có thể kết hợp với những kiến trúc khác.
| Khía cạnh | Chatbot dựa trên quy tắc | Chatbot LLM chỉ trả lời | AI agent |
|---|---|---|---|
| Bộ máy cốt lõi | Bộ phân loại ý định và logic định sẵn | LLM với quy trình truy xuất và trả lời | LLM chọn bước trong vòng lặp được kiểm soát |
| Tạo phản hồi | Mẫu văn bản và giá trị đã lưu | Tạo từ ngữ cảnh được cung cấp | Tạo từ ngữ cảnh và kết quả công cụ có sẵn |
| Luồng hội thoại | Chuyển trạng thái định sẵn, giữ trạng thái qua nhiều lượt | Trả lời hoặc hỏi rõ trong quy trình cấu hình | Mô hình chọn bước tiếp theo được phép |
| Công cụ | Luồng có thể chứa lời gọi API | Ví dụ này không có công cụ hành động | Mô hình đề xuất lời gọi; ứng dụng kiểm soát truy cập |
| Tác vụ nhiều bước | Thứ tự và nhánh được định rõ | Cần quy trình bổ sung cho thao tác bên ngoài | Có thể chọn chuỗi bước trong giới hạn |
| Yêu cầu mới | Phụ thuộc độ bao phủ của bộ phân loại và đường dự phòng | Chỉ trả lời khi ngữ cảnh hỗ trợ | Có thể chọn đường hữu ích hoặc quyết định sai |
| Truy cập kiến thức | Tìm kiếm cấu hình, API hoặc câu trả lời lưu sẵn | Thường dùng RAG; tùy triển khai | Thường dùng RAG và công cụ; tùy triển khai |
| Bảo trì | Luồng, mẫu, tích hợp và kiểm thử | Nguồn, truy xuất và đánh giá | Nguồn, công cụ, chính sách và đánh giá |
| Cấu trúc chi phí | Lưu trữ, tích hợp, giấy phép và công sức con người | Mức dùng nền tảng hoặc mô hình và công sức con người | Mức dùng nền tảng hoặc mô hình, công cụ và công sức con người |
| Lỗi | Định tuyến sai, trạng thái sai hoặc lỗi API | Trả lời thiếu căn cứ hoặc lỗi truy xuất | Trả lời thiếu căn cứ, chọn sai công cụ hoặc ghi chưa rõ kết quả |
| Độ trễ | Phụ thuộc quy trình và dịch vụ phía sau | Phụ thuộc truy xuất, mô hình và cách truyền kết quả | Phụ thuộc bước được chọn, dịch vụ và cách truyền kết quả |
Chatbot dựa trên quy tắc còn hợp lý không?
Có. Hãy chọn kiến trúc đơn giản nhất đáp ứng yêu cầu về chất lượng, kiểm soát và thời gian phản hồi. Luồng lập trình sẵn có thể đủ cho biểu mẫu ổn định, vài câu trả lời đã duyệt hoặc tra cứu được cấp quyền với các bước cố định. Thêm mô hình không loại bỏ việc bảo trì tích hợp và chính sách.
Một số điều kiện có thể phù hợp với quy trình định sẵn:
Câu trả lời cần cách diễn đạt đã duyệt. Mẫu văn bản có thể giữ nguyên nội dung được xem xét. Đây là một kiểm soát, không phải bằng chứng tuân thủ pháp luật; điều kiện áp dụng, thông tin bắt buộc, quyền truy cập và nghĩa vụ xem xét vẫn tùy thuộc triển khai.
Thao tác đơn giản, lặp lại được. Chuỗi bước đã biết có thể tránh lời gọi mô hình không cần thiết ở bất kỳ mức lưu lượng nào. Hãy so sánh chi phí lưu trữ, giấy phép, API và bảo trì thực tế thay vì giả định một ngưỡng lưu lượng chung.
Tích hợp hiện có đang hoạt động tốt. Giữ các quy trình đáng tin cậy và thêm khả năng hiểu ngôn ngữ hoặc công cụ cụ thể ở nơi đánh giá cho thấy cải thiện hữu ích. Không cần thay mọi ý định và luồng mới dùng được LLM.
Thiết kế dùng agent đáng được đánh giá khi các bước cần thiết thay đổi và lựa chọn của mô hình tạo giá trị. Kiểm chứng bằng tác vụ đại diện và trường hợp lỗi; tên kiến trúc không cung cấp sẵn một tỷ lệ thành công.
AI agent mạnh nhất ở đâu
Điều phối do mô hình quyết định đáng được đánh giá khi yêu cầu đủ đa dạng để lựa chọn bước lúc chạy trở nên hữu ích. Dưới đây là các khả năng ứng dụng, không phải khẳng định ưu thế đã đo lường:
Hỗ trợ đi qua nhiều hệ thống. Ví dụ trả hàng kết hợp truy xuất chính sách, đọc đơn có cấp quyền và yêu cầu được cấp quyền riêng. Mô hình có thể giúp chọn bước phù hợp tiếp theo, trong khi quy trình cố định vẫn là lựa chọn hợp lệ.
Câu hỏi mở về sản phẩm. Câu hỏi về quy mô nhóm, truy cập kênh và giới hạn gói có thể cần nhiều thông tin đã ghi trong tài liệu. Truy xuất hỗ trợ cả chatbot chỉ trả lời lẫn agent. Cả hai không nên suy ra tuân thủ pháp luật hay quyền lợi chưa được ghi nhận từ mô tả tiếp thị.
Hội thoại bán hàng. Mô hình có thể thu thập nhu cầu được nêu và lấy ngữ cảnh CRM được phép. Hãy so sánh độ chính xác của đề xuất, sự đồng ý và kết quả hữu ích với quy trình hiện tại trước khi khẳng định hiệu quả cao hơn.
Hỗ trợ đa ngôn ngữ. Mô hình ngôn ngữ có thể giảm việc viết câu trả lời riêng, nhưng ngôn ngữ hỗ trợ và chất lượng khác nhau. Đánh giá thuật ngữ, giọng điệu, độ trung thành với chính sách và chuyển cấp trong từng ngôn ngữ đích. Vòng lặp agent không bắt buộc để trả lời đa ngôn ngữ và không loại bỏ công việc bản địa hóa.
Quyết định chuyển cấp. Quy tắc cấu hình và đánh giá của mô hình có thể giúp phát hiện thiếu kiến thức hoặc yêu cầu gặp người. Độ tự tin của mô hình hay phân tích cảm xúc không phải bằng chứng đáng tin rằng quyết định đúng. Xác minh yêu cầu chuyển tiếp và quy trình nhân sự tách biệt với phản hồi AI.
Để tìm hiểu thành phần nền tảng, xem Hướng dẫn nền tảng AI hội thoại.
AI agent hoạt động trong production như thế nào
Hệ thống trong môi trường vận hành kết hợp hành vi mô hình với kiểm soát ứng dụng. Kiểm soát tương tự cũng hỗ trợ quy trình lập trình sẵn, không chỉ riêng agent.
Giới hạn và quy tắc hành vi. Chỉ dẫn xác định phạm vi, giọng điệu và chuyển cấp. Kiểm tra của ứng dụng giới hạn thao tác và điều kiện dừng. Thử cả từ chối và lỗi bên cạnh yêu cầu dự kiến; prompt không bảo đảm mọi câu trả lời đều tuân theo chính sách.
Bám nguồn kiến thức (RAG). Truy xuất cung cấp nguồn trước khi tạo câu trả lời và có thể giảm phản hồi thiếu căn cứ. Nó không bảo đảm đúng sự thật. Hãy xem nguồn đã lấy và khẳng định tạo ra bằng khả năng truy vết mà triển khai thực sự cung cấp. Xem thêm Ảo giác AI là gì?.
Quyền truy cập công cụ và quyền hành động. API hoặc máy chủ MCP có thể cung cấp thao tác đọc và ghi. Giới hạn thông tin xác thực và thao tác được phép, áp dụng quyền truy cập khách hàng ở đích, và xem văn bản trả về là dữ liệu. Công cụ đã cấu hình hoặc tham số mô hình đề xuất không cấp quyền đối với đơn của người khác hay khoản hoàn tiền chưa được duyệt.
Quickchat AI Agents hỗ trợ câu trả lời từ Knowledge Base và API cùng MCP Actions đã cấu hình. API Actions có thể dùng điều kiện Run only when được kiểm tra bên ngoài mô hình; hãy dùng metadata đáng tin cậy và giữ nguyên kiểm soát cấp quyền của API đích. Human Handoff tạm dừng phản hồi AI và đưa hội thoại vào Inbox, được giao nếu định tuyến chọn một thành viên hoặc chưa được giao nếu không chọn được. Việc giao không bảo đảm nhân viên trả lời ngay. Luồng trả hàng trên cần dịch vụ bên ngoài và cấu hình phù hợp; không hứa hẹn xử lý trả hàng hay hoàn tiền tích hợp sẵn.
Đánh đổi về chi phí và hiệu năng
Chọn giữa chatbot và AI agent vừa là quyết định kiến trúc vừa là quyết định kinh tế.
Kinh tế học của chatbot
Quy trình lập trình sẵn có thể tránh suy luận LLM, nhưng chi phí biên không nhất thiết bằng không. Tính cả lưu trữ, giấy phép nền tảng, API phía sau, giám sát và xử lý của con người. Tra cứu đơn giản có thể rẻ với cả hai kiến trúc; hãy đo triển khai thực tế.
Bảo trì gồm luồng, mẫu, tích hợp và độ bao phủ kiểm thử. Hệ thống agent thêm công việc về prompt, truy xuất, công cụ và đánh giá. Ước tính cả hai trên cùng phạm vi và thời kỳ, không giả định một bên cần ít bảo trì hơn.
Kinh tế học của AI agent
Suy luận mô hình và thực thi công cụ tiêu thụ tài nguyên, nhưng nền tảng có thể tính phí theo tín dụng, hội thoại, lượt giải quyết, số chỗ người dùng hoặc thuê bao. Chi phí token bên dưới không nhất thiết là đơn vị được tính cho khách hàng.
So sánh trực tiếp điều khoản hiện hành: giá Quickchat AI, Intercom và Salesforce Agentforce dùng đơn vị và điều kiện riêng theo sản phẩm. Kiểm tra phí cơ bản, cam kết tối thiểu, mức dùng bao gồm, phí vượt mức và định nghĩa kết quả tính phí. Hội thoại và vấn đề đã được xác minh giải quyết không thể dùng thay nhau. Hướng dẫn mô hình giá AI agent giải thích cách so sánh phạm vi mà không coi các giá quảng cáo là tương đương.
Dùng nhóm yêu cầu đủ điều kiện của chính bạn để ước tính chi phí mỗi kết quả đã xác minh. Tính cả lần thử thất bại, liên hệ lặp lại, sửa chữa của con người, chi tiêu định kỳ và thiết lập ban đầu. Chi phí hỗ trợ bằng người cũng tùy kênh và phạm vi chi phí; một con số chung của ngành không phải mốc tương đương cho triển khai của bạn. Thời gian được giải phóng là năng lực, không phải tiền tiết kiệm, trừ khi chi phí thực giảm hoặc tránh được chi tiêu đã dự tính.
Để tính trên cùng thời kỳ, xem Cách tính ROI của chatbot. Bài này không giả định lợi thế về tỷ lệ giải quyết hay phần trăm tiết kiệm. Đo thời gian đến câu trả lời hữu ích đầu tiên và đến khi hoàn tất đã xác minh, gồm dịch vụ phía sau và chuyển cho người; không kiến trúc nào có khoảng độ trễ chung cho mọi trường hợp.
Đo lường thành công theo cách khác
So sánh các kiến trúc bằng tiêu chí kết quả chung, rồi thêm thông tin chẩn đoán cho những kiểu lỗi khác nhau.
Chẩn đoán quy trình gồm ý định nhận biết được, lý do dùng đường dự phòng, chuyển trạng thái, lỗi API và việc hoàn thành các bước bắt buộc. Luồng kết thúc không nhất thiết có nghĩa vấn đề khách hàng đã được giải quyết.
Chỉ số kết quả gồm giải quyết đã xác minh trong các yêu cầu đủ điều kiện, liên hệ lặp lại, sửa chữa của con người, mức hài lòng kèm số câu trả lời khảo sát và chi phí mỗi kết quả đã xác minh. Với agent, xem thêm khẳng định thiếu căn cứ, chọn công cụ, truy cập bị từ chối và thao tác ghi chưa rõ kết quả. Không tính câu trả lời được tạo, yêu cầu trả hàng được chấp nhận và khoản hoàn tiền hoàn tất là cùng một kết quả.
Hướng dẫn phân tích chatbot phân biệt quan sát có sẵn trong sản phẩm với chỉ số cần bằng chứng bên ngoài, đồng thời cung cấp bảng tính sử dụng dữ liệu giả lập. Xác định mẫu số và cửa sổ quan sát trước khi so sánh; bảng tính không phải chuẩn hiệu năng.
Giữ đủ bằng chứng để kiểm tra riêng câu trả lời về chính sách, tra cứu được cấp quyền, thay đổi bên ngoài và chuyển tiếp. Nguồn truy xuất, phản hồi công cụ và trạng thái hệ thống có thẩm quyền phục vụ các mục đích khác nhau. Dùng hồ sơ giả lập hoặc được bảo vệ phù hợp để đánh giá, và không tiết lộ dữ liệu riêng tư của khách hàng trong ví dụ chia sẻ.
FAQ
Tôi có thể chuyển chatbot hiện có thành AI agent không?
Bạn thường có thể thêm dần khả năng hiểu ngôn ngữ hoặc công cụ được chọn trong khi giữ quy trình, kiến thức và tích hợp hữu ích. Việc mô hình chọn công cụ là thay đổi kiến trúc cần đánh giá. Giữ cấp quyền, phê duyệt bắt buộc và các bước xác định sẵn đáng tin cậy, thay vì bỏ chúng chỉ để mang tên agent.
AI agent có đắt hơn chatbot không?
Không có câu trả lời chung. So sánh thuê bao, đơn vị tính phí, mức dùng, thiết lập, bảo trì và sửa chữa của con người cho cùng tác vụ đủ điều kiện và cùng thời kỳ. Gọi mô hình tiêu thụ tài nguyên, nhưng cách tính phí khách hàng khác nhau. Cải thiện tỷ lệ giải quyết và tiết kiệm tiền phải được đo; thời gian giải phóng không tự động là tiền tiết kiệm.
AI agent có ảo giác không?
Có. Truy xuất có thể cung cấp nguồn liên quan nhưng không bảo đảm câu trả lời đúng. Kiểm tra khẳng định có được nguồn hỗ trợ hay không và kết quả công cụ có thực sự xác nhận kết quả được nêu hay không. Áp dụng cùng tiêu chuẩn cho chatbot LLM chỉ trả lời và chuyển cho người khi thiếu bằng chứng.
AI agent có thể xử lý tác vụ mà chatbot không làm được không?
Agent có thể chọn bước hữu ích cho các yêu cầu đa dạng mà quy trình hiện tại chưa bao phủ. Chatbot lập trình sẵn cũng có thể gọi API, lưu trạng thái và hoàn thành tác vụ nhiều bước. Khả năng thực tế phụ thuộc tích hợp, quyền, chính sách và bằng chứng, không phụ thuộc nhãn giao diện. Yêu cầu trả hàng vẫn cần quyền ghi riêng.
Còn độ trễ thì sao?
Đo thời gian đến câu trả lời hữu ích đầu tiên và đến khi hoàn tất đã xác minh trên tác vụ đại diện, kể cả lời gọi phía sau chậm hoặc thất bại. So sánh phân bố như trung vị và phân vị 95 với yêu cầu của bạn. Nhiều bước mô hình hoặc công cụ hơn có thể thêm độ trễ, nhưng tên gọi không quy định thời gian phản hồi chung hay khiến độ trễ trở nên chấp nhận được.
”AI agent” có chỉ là cách đổi tên tiếp thị của “chatbot” không?
Các tên gọi có phần chồng lấn. Chatbot mô tả giao diện, còn điều phối kiểu agent thường có nghĩa mô hình chọn bước hoặc công cụ khi chạy. Xem quy trình thực, kiểm soát thẩm quyền, điều kiện dừng và bằng chứng kết quả. Tên sản phẩm không chứng minh mức tự chủ, độ chính xác hoặc giá trị kinh doanh cao hơn.