Triển khai Chatbot AI sử dụng AWS bedrock và AWS bedrock Agent
1. Giới thiệu bài toán cần sử dụng Chatbot AI
Trong thời đại số hóa hiện nay, chatbot AI đang trở thành công cụ giao tiếp quan trọng giữa doanh nghiệp và khách hàng. Chatbot AI có thể tự động trả lời các câu hỏi thường gặp, hỗ trợ khách hàng 24/7, giảm thiểu thời gian chờ đợi và nâng cao trải nghiệm người dùng.
Một số bài toán cụ thể mà chatbot AI có thể giải quyết hiệu quả:
- Hỗ trợ khách hàng: Trả lời câu hỏi về sản phẩm, dịch vụ, chính sách, giờ làm việc...
- Tư vấn bán hàng: Giới thiệu sản phẩm, gợi ý lựa chọn phù hợp, xử lý đơn hàng...
- Chăm sóc khách hàng: Thu thập phản hồi, giải quyết khiếu nại, gửi thông báo...
- Tự động hóa quy trình: Đặt lịch hẹn, đăng ký dịch vụ, tra cứu thông tin...
2. Quy trình trả lời một câu hỏi tự động của Chatbot AI
1. Tiếp nhận câu hỏi (3): Khách hàng đặt câu hỏi thông qua chatbot trên website.
2. Phân tích ý định (4): Chatbot AI (có thể sử dụng Amazon Titan Text Embeddings) phân tích câu hỏi của khách hàng để xác định ý định và ngữ cảnh. Trong trường hợp này, hệ thống sẽ tìm kiếm thông tin liên quan đến câu hỏi trong cơ sở kiến thức (Knowledge Base - 2).
3. Truy xuất thông tin (4, 6, 9):
- Hệ thống tìm kiếm thông tin liên quan đến câu hỏi trong cơ sở kiến thức (4).
- Nếu cần thiết, chatbot có thể truy xuất thêm thông tin từ các nguồn dữ liệu khác như Vector Database (6) hay Orders DB (9) để bổ sung thông tin chi tiết cho câu trả lời. Ví dụ, khách hàng hỏi về tình trạng đơn hàng, chatbot sẽ kết nối với Orders DB để lấy thông tin chi tiết về đơn hàng đó.
4. Tạo câu trả lời (5, 7):
- Dựa trên thông tin đã thu thập, chatbot AI sử dụng mô hình ngôn ngữ lớn (LLM) như Amazon Titan Text Lite (5) để tạo câu trả lời phù hợp với ngữ cảnh và dễ hiểu.
- Chatbot có thể được hỗ trợ bởi các agent chuyên biệt như Order Support Agent (7) để xử lý các yêu cầu phức tạp.
5. Trả lời người dùng (10): Chatbot AI trả lời câu hỏi của khách hàng thông qua giao diện chatbot trên website.
3. Kiến trúc triển khai thực tế
1. Giao diện Chatbot AI(Chatbot Interface): Đây là nơi người dùng cuối tương tác với chatbot thông qua các trình duyệt web phổ biến như Chrome, Firefox, hoặc Microsoft Edge. Mọi yêu cầu của người dùng được gửi thông qua giao diện này.
2. Tầng API (Call API): Các yêu cầu từ chatbot được chuyển đến API trung gian, nơi mà các yêu cầu này được xử lý và gửi đến các dịch vụ AWS để truy xuất thông tin hoặc thực hiện hành động cụ thể.
3. Bedrock Foundation Model: Đây là trái tim của hệ thống, nơi sử dụng các mô hình AI từ AWS Bedrock để xử lý ngôn ngữ tự nhiên và các yêu cầu của người dùng. Mô hình này giúp chatbot có khả năng hiểu và phản hồi chính xác.
4. Bedrock Agent: Bedrock Agent đóng vai trò kết nối mô hình AI với các dịch vụ bên ngoài, cụ thể là RAG Framework (Retrieval-Augmented Generation Framework). Khung này giúp lấy thông tin từ nhiều nguồn khác nhau như Amazon OpenSearch và Titan Embeddings, sau đó truy xuất dữ liệu từ S3 Bucket chứa các tài liệu kỹ thuật.
5. Action Group: Đây là thành phần chịu trách nhiệm thực hiện các hành động theo yêu cầu, bao gồm các chức năng tùy chỉnh thông qua Lambda hoặc OpenAPI Schema. Các hành động như gửi email thông qua SNS Notify hay gọi API bên ngoài đều được xử lý tại đây.
4. Triển khai Chatbot trên AWS
Để giúp bạn triển khai Chatbot AI một cách dễ dàng hơn, dưới đây là video hướng dẫn từng bước về cách cấu hình và tích hợp các dịch vụ AWS cũng như kết nối API để tạo ra một Chatbot AI hoàn chỉnh sử dụng Bedrock và Bedrock Agent của Amazon Web Service.
All rights reserved