Một chatbot AI cho doanh nghiệp dùng nội bộ thực chất là một ô hỏi đáp đặt trên kho tài liệu của công ty: nhân viên gõ câu hỏi bằng tiếng Việt thường, hệ thống tìm các đoạn tài liệu liên quan rồi dùng AI viết câu trả lời. Giá trị lớn nhất là tiết kiệm thời gian lục thư mục và hỏi đi hỏi lại người cũ.
Giới hạn lớn nhất cũng cần nói ngay: AI có thể trả lời sai, hoặc trả lời nghe rất hợp lý nhưng không có trong tài liệu. Vì vậy một chatbot nội bộ tử tế phải luôn kèm nguồn, để người dùng bấm vào kiểm tra tài liệu gốc.
Chatbot nội bộ hoạt động thế nào
Cách làm phổ biến là tìm trước, trả lời sau. Cách này thường gọi là RAG (retrieval augmented generation, tạo câu trả lời có truy xuất tài liệu). Các bước đơn giản như sau:
- Tài liệu (quy trình, chính sách, hướng dẫn sử dụng, hợp đồng mẫu) được đưa vào hệ thống và chia thành các đoạn
- Khi có câu hỏi, hệ thống tìm vài đoạn liên quan nhất trong kho đó
- Mô hình ngôn ngữ (LLM) chỉ được yêu cầu trả lời dựa trên các đoạn vừa tìm được
- Câu trả lời trả về cùng danh sách tài liệu đã dùng
Thiết kế này giảm việc mô hình trả lời theo trí nhớ chung của nó, nhưng không loại bỏ hoàn toàn. Nếu tài liệu mơ hồ, lỗi thời hoặc mâu thuẫn nhau, câu trả lời cũng sẽ như vậy.
Bắt buộc trích dẫn nguồn
Đây là yêu cầu quan trọng nhất khi đặt hàng một chatbot nội bộ. Mỗi câu trả lời nên có:
- Tên tài liệu và vị trí đoạn được dùng (trang, mục)
- Đường dẫn mở thẳng tài liệu gốc
- Thông báo rõ khi không tìm thấy thông tin, thay vì cố đoán. Chatbot nói "tôi không tìm thấy trong tài liệu" là hành vi đúng, không phải lỗi
Nhân viên cũng nên được hướng dẫn rằng câu trả lời của chatbot là gợi ý, còn tài liệu gốc mới là căn cứ. Với những việc có hậu quả (chính sách nhân sự, điều khoản hợp đồng, quy định an toàn), hãy mở tài liệu gốc xác nhận.
Phân quyền: ai được hỏi về tài liệu nào
Một sai lầm dễ gặp là nạp mọi tài liệu vào một kho chung. Khi đó nhân viên bán hàng có thể hỏi và nhận được thông tin lương, hợp đồng hoặc tài liệu của ban giám đốc.
Việc cần làm trước khi nạp dữ liệu:
- Phân loại tài liệu: công khai trong công ty, theo phòng ban, hạn chế, tuyệt đối không đưa vào
- Hệ thống chỉ tìm trong những tài liệu mà người hỏi vốn được phép xem, theo cùng vai trò trong phần mềm
- Ghi lại ai hỏi gì và hệ thống đã dùng tài liệu nào, để rà soát khi cần
Cách tổ chức vai trò và quyền trong phần mềm cũng là nền tảng cho chatbot, nên làm cùng lúc chứ không để sau.
Chất lượng tài liệu quyết định chất lượng câu trả lời
Chatbot không biến tài liệu kém thành tài liệu tốt. Trước khi làm, nên kiểm tra:
- Có bản mới nhất chưa, có nhiều phiên bản trùng nhau không
- Có người chịu trách nhiệm cập nhật khi quy trình đổi không
- Tài liệu là chữ có thể đọc được hay là ảnh chụp, bản scan chất lượng thấp
- Cách đặt tên và cấu trúc có thống nhất không
Nhiều doanh nghiệp thấy rằng chỉ riêng việc dọn tài liệu đã giải quyết một nửa nhu cầu, và phần chatbot sau đó mới phát huy tác dụng.
Đo xem chatbot có đáng dùng không
Không cần con số từ nơi khác. Hãy tự đo bằng câu hỏi thật của nhân viên:
- Lập một bộ câu hỏi thường gặp, kèm câu trả lời đúng do người có chuyên môn xác nhận
- Chạy thử và đánh dấu câu nào đúng, câu nào sai, câu nào thiếu nguồn
- Cho nhân viên đánh giá từng câu trả lời ngay trong giao diện, để lấy dữ liệu liên tục
- Chỉ mở rộng phạm vi tài liệu khi kết quả ở phạm vi nhỏ đã chấp nhận được
Cách này giúp bạn quyết định bằng dữ liệu của chính mình, và cũng cho thấy phải chỉnh tài liệu hay chỉnh hệ thống.
Khi nào chưa nên làm chatbot
Lời khuyên ở trên không phù hợp, hoặc chatbot chưa đáng làm, nếu:
- Tài liệu ít và đơn giản. Một thư mục gọn, một trang hướng dẫn hoặc tìm kiếm thông thường là đủ
- Câu trả lời phải đúng tuyệt đối và không ai kiểm tra lại, ví dụ tư vấn pháp lý hoặc y tế
- Tài liệu chứa dữ liệu nhạy cảm mà bạn chưa quyết định được phép gửi cho nhà cung cấp mô hình hay phải xử lý trong hạ tầng riêng (xem dùng AI an toàn với dữ liệu công ty)
- Chưa có ai phụ trách giữ tài liệu luôn cập nhật
Bước tiếp theo
Nếu muốn thử, hãy bắt đầu với một nhóm tài liệu nhỏ và một phòng ban. Tổng quan về cách đưa AI vào phần mềm có trong bài ứng dụng AI trong phần mềm doanh nghiệp. Prime Technology nhận viết phần mềm theo yêu cầu có tích hợp AI và LLM, làm theo giai đoạn: bản nhỏ chạy trước, mở rộng sau khi bạn đã kiểm chứng giá trị.
