Nhân rộng việc triển khai Trợ lý ảo hỗ trợ cán bộ, công chức, viên chức

Bộ TTTT đã phối hợp với các doanh nghiệp như: Misa, CMC, Viettel, VNG để triển khai thử nghiệm trợ lý ảo từ tháng 10/2023 đến nay.

Cụ thể, giai đoạn 1 (từ tháng 10/2023 đến 30/11/2023), Bộ TTTT xây dựng và thử nghiệm nội bộ phối hợp với Viettel thử nghiệm tinh chỉnh, lựa chọn mô hình triển khai và xây dựng các ứng dụng. Bộ và Viettel đã tiến hành thử nghiệm tại các đơn vị thuộc Bộ TTTT, các Sở TTTT.

Giai đoạn 2 (từ ngày 01/4/2024 đến nay), các đơn vị triển khai thử nghiệm trợ lý ảo hỏi đáp văn bản quy phạm pháp luật, bổ sung thêm các văn bản điều hành, báo cáo kinh tế - xã hội của địa phương. Cục Chuyển đổi số quốc gia đã xác định mô hình triển khai thống nhất từ giai đoạn này là RAG (ở mô hình này, trợ lý ảo trả lời dựa trên cơ sở dữ liệu (CSDL) tri thức riêng của người sử dụng, kết hợp với mô hình ngôn ngữ lớn (LLM)).

Giai đoạn 3 (từ ngày 04/5/2024 đến nay) triển khai thử nghiệm trợ lý ảo hỏi đáp theo các lĩnh vực chuyên ngành của Bộ TTTT. Bộ đã phối hợp cùng với Misa và Viettel triển khai tại 32 đơn vị thuộc, trực thuộc Bộ TTTT.

Bên cạnh đó, ứng dụng trợ lý ảo hỗ trợ rà soát văn bản quy phạm pháp luật triển khai thử nghiệm tại Văn phòng Quốc hội. Theo đó, chức năng chính của trợ lý ảo là rà soát sự chồng chéo, mâu thuẫn, không thống nhất giữa các văn bản quy phạm pháp luật. Chức năng phụ của Trợ lý ảo là hỏi và đáp về văn bản quy phạm pháp luật. Trợ lý ảo do CMC phối hợp cùng Bộ TTTT. Việc triển khai trợ lý ảo này từ tháng 02/2024 đến nay.

Thời điểm hiện tại, toàn bộ nhân sự của Vụ Pháp luật, Bộ TTTT đã sử dụng thử trợ lý ảo và đã có đánh giá ban đầu là tốt. Tuy nhiên, việc sử dụng trợ lý ảo tại đây vẫn cần hoàn thiện hơn để đưa vào sử dụng thực tế.

Cùng với sử dụng hỗ trợ cán bộ, công chức, viên chức, trợ lý ảo cũng đã được triển khai hỗ trợ người dân hỏi đáp về các quy định của pháp luật. Chức năng chính của trợ lý ảo hỏi và đáp về Luật Giao thông đường bộ. Trợ lý ảo này do VNG phối hợp cùng Bộ TTTT.

Mô hình triển khai RAG (xử lý ngôn ngữ tự nhiên - NLP, kết hợp ưu điểm của các mô hình ngôn ngữ được đào tạo trước với hệ thống truy xuất thông tin) sử dụng mô hình ngôn ngữ lớn là KiLM 13B tham số, huấn luyện với 1.000B tokens (ước lượng khoảng 3TB dữ liệu).

Trợ lý ảo Kiki có khả năng trả lời bao quát các vấn đề thường gặp trong công tác quản lý nhà nước của Bộ TTTT; sử dụng ngôn ngữ hội thoại tự nhiên (hỏi bằng giọng nói, trả lời bằng giọng nói và hiển thị văn bản); có cơ chế đảm bảo “càng sử dụng, càng thông minh” dựa trên dữ liệu phản hồi từ trải nghiệm người sử dụng.

Kiki Giao thông (ứng dụng chatbot văn bản) có 2.360 người dùng sử dụng thường xuyên. Trợ lý ảo Kiki Giao thông trả lời tốt trên miền RAG là Luật Giao thông đường bộ, hỗ trợ rất nhiều cho người dân hiểu và làm rõ hơn về luật giao thông.