Phát triển thế mạnh, hạn chế tác động bất lợi trong phát triển AI

Dự án Luật đã được Ủy ban Thường vụ Quốc hội cho ý kiến tại phiên họp chiều 8/10.

AI là một trong các công nghệ số cốt lõi nhất

Trình bày Tờ trình Dự án Luật, Bộ trưởng Bộ Thông tin và Truyền thông Nguyễn Mạnh Hùng cho biết, Dự thảo Luật Công nghiệp công nghệ số gồm 08 Chương, 73 Điều. Theo đó, Dự thảo Luật đã thể hiện rõ các nội dung cần thiết để phát triển ngành công nghiệp công nghệ số bao gồm: nghiên cứu và phát triển công nghệ số; hạ tầng cho công nghiệp công nghệ số; hệ sinh thái công nghiệp công nghệ số; doanh nghiệp công nghệ số; sản phẩm, dịch vụ công nghệ số; tiêu chuẩn và quy chuẩn kỹ thuật; nhân lực cho công nghiệp công nghệ số.

Đặc biệt, thực hiện chỉ đạo của Chính phủ, căn cứ tình hình thực tế, Bộ Thông tin và Truyền thông đã đề xuất bổ sung nội dung về tài sản số, AI và điều chỉnh nội dung “vi mạch bán dẫn” thành “bán dẫn”.

Trong đó, AI là một trong các công nghệ số cốt lõi nhất. Luật đưa ra định nghĩa, các nguyên tắc quản lý và phát triển, giao Chính phủ quy định chi tiết nội dung này.

Luật dự thảo nguyên tắc quản lý và phát triển AI. AI phục vụ sự thịnh vượng và hạnh phúc con người phải đảm bảo minh bạch và giải thích được, có trách nhiệm giải trình, công bằng và không phân biệt đối xử, tôn trọng các giá trị đạo đức và giúp con người, bảo vệ quyền riêng tư, tiếp cận bao trùm, an ninh và bảo mật, kiểm soát được, quản lý dựa trên rủi ro, đổi mới có trách nhiệm và khuyến khích hợp tác quốc tế - Bộ trưởng Nguyễn Mạnh Hùng nêu rõ.

Thẩm tra Dự thảo Luật, Ủy ban Khoa học, Công nghệ và Môi trường thấy rằng, tại thời điểm này, Việt Nam cần phải có cơ sở pháp lý để điều chỉnh về AI để phát triển thế mạnh, lợi thế của AI đồng thời hạn chế tác động bất lợi trong nghiên cứu, ứng dụng, phát triển công nghệ AI. Do đó, cơ quan thẩm tra cơ bản tán thành sự cần thiết quy định đối với các hệ thống AI được lồng ghép trong Dự thảo Luật.

Bảo đảm phát triển AI có trách nhiệm

Ủy ban Khoa học, Công nghệ và Môi trường đề nghị Cơ quan soạn thảo nghiên cứu bổ sung các quy định hạn chế rủi ro, ảnh hưởng của công nghệ AI đối với đời sống kinh tế, xã hội như nguyên tắc đạo đức; nghiên cứu, phát triển AI do Việt Nam sáng tạo; cho phép các doanh nghiệp có dự án nghiên cứu về trí tuệ nhân tạo được sử dụng nguồn dữ liệu từ các cơ quan nhà nước.

Đồng thời, quy định mức độ ứng dụng trí tuệ nhân tạo trong các cơ quan nhà nước từ các giải pháp do doanh nghiệp trong nước làm chủ nhằm khuyến khích sử dụng và tạo thị trường.

Góp ý về vấn đề này, Tổng Thư ký Quốc hội Bùi Văn Cường cho rằng, AI được đánh giá sẽ mang lại các lợi ích to lớn cho con người, song đây cũng là lĩnh vực rất phức tạp và có nhiều rủi ro. Tuy nhiên, những quy định tại Dự thảo Luật chưa đủ mạnh mẽ để đảm bảo cho việc phát triển ứng dụng AI diễn ra một cách có trách nhiệm, có đạo đức. Do đó, cần bổ sung các quy định nhằm hạn chế rủi ro của AI.

Cụ thể, ông Cường đề nghị phải xem xét, chi tiết hóa các nguyên tắc đạo đức như: công bằng, minh bạch, trách nhiệm, an toàn và bảo mật trong phát triển ứng dụng công nghệ AI. Cùng với đó, cần xây dựng cơ chế giám sát tuân thủ các nguyên tắc đạo đức, trí tuệ nhân tạo, ví dụ như là thành lập Hội đồng đạo đức, AI độc lập bao gồm chuyên gia nhiều lĩnh vực.

Đồng thời, phải cân nhắc kỹ quy định về dán nhãn sản phẩm công nghệ số tạo ra bởi AI.

Thế nào là sản phẩm công nghệ số tạo ra bởi hệ thống AI? Đề nghị làm rõ thêm nội hàm, không quy định chung chung dẫn đến khó khăn trong thi hành.

Tổng Thư ký Quốc hội Bùi Văn Cường

Ông Cường cũng đề nghị, cần tiếp tục nghiên cứu trách nhiệm khi sự cố AI xảy ra. Chẳng hạn như ứng dụng AI trong giao thông thông minh, xe tự lái… thì khi có sự cố, tai nạn xảy ai sẽ chịu trách nhiệm? Chủ xe, chủ sở hữu AI, hay người phát triển nội dung này? Cần phải làm rõ hơn để thuận lợi khi một số lĩnh vực có thể sớm ứng dụng AI.

Phó Chủ tịch Quốc hội Nguyễn Thị Thanh cũng đề nghị Cơ quan soạn thảo tiếp tục nghiên cứu kỹ lưỡng đối với nội dung này.

Theo Phó Chủ tịch Quốc hội, AI là một lĩnh vực mới, đặt ra những thách thức về quản lý không chỉ đối với Việt Nam mà còn đối với các quốc gia trên thế giới. Do đó, để bảo đảm phân định rõ ràng trách nhiệm và nghĩa vụ giữa người dùng, nhà cung cấp, nhà phát triển và bên triển khai thì nên thiết lập định nghĩa rõ ràng cho các hệ thống AI có rủi ro cao. Việc quản lý các sản phẩm công nghệ số quan trọng đòi hỏi các tiêu chí được xác định rõ ràng và minh bạch.

Kết luận nội dung này, Phó Chủ tịch Quốc hội Nguyễn Đức Hải đề nghị Cơ quan soạn thảo rà soát, hoàn thiện các quy định về AI, trong đó, nghiên cứu bổ sung các quy định hạn chế rủi ro, ảnh hưởng của công nghệ AI đối với đời sống kinh tế - xã hội, đạo đức xã hội; các quy định để tạo điều kiện cho việc nghiên cứu phát triển AI tại Việt Nam.