Sự phát triển nhanh chóng của các nền tảng AI tạo sinh (GenAI) cho phép hàng triệu người có thể sử dụng AI theo nhiều cách thức mới, tạo ra vô vàn kết quả khác biệt trong nhiều hoạt động của các cá nhân và tổ chức. Chưa dừng lại ở đó, ICAEW cho rằng, những năm tới, các công nghệ như AI có khả năng sẽ ngày càng được sử dụng nhiều hơn, bởi bất kỳ ai quan tâm.
Các lãnh đạo của ICAEW đã tổ chức một số cuộc hội thảo bàn về những thách thức liên quan đến việc triển khai, ứng dụng AI. Tại Hội nghị thường niên năm 2024 của ICAEW được tổ chức tháng 10 vừa qua, Chủ tịch ICAEW Malcolm Bacchus, Trưởng phòng Chính sách công nghệ của ICAEW Esther Mallowah cùng các chuyên gia đạo đức trong lĩnh vực AI, đại diện một số hãng kiểm toán độc lập lớn nhất thế giới… đã trao đổi về những rào cản, rủi ro liên quan đến AI trong bối cảnh việc sử dụng công nghệ AI tinh vi ngày càng rộng rãi, tạo ra nhiều cơ hội cũng như thách thức cho con người.
Theo ICAEW, có nhiều thách thức cấp bách mà các nhà lãnh đạo cần giải quyết. Đặc biệt, những hậu quả từ việc sử dụng sai hoặc sử dụng GenAI không phù hợp. Bà Maria Axente - Trưởng nhóm AI có trách nhiệm của hãng kiểm toán PwC thừa nhận rằng, cách nhân viên lựa chọn và sử dụng AI không phải là điều mà các tổ chức muốn áp đặt quá mức. Thay vào đó, các nhà lãnh đạo mong muốn nhân viên ứng dụng công nghệ sáng tạo nhất có thể để mang lại hiệu quả công việc cao hơn.
Tuy nhiên, bà Maria Axente nhấn mạnh, hiện tại, hầu hết các tổ chức chưa có chương trình đào tạo về AI hoàn thiện. Do đó, lãnh đạo các tổ chức cần đặt ra một số quy định, cần thiết lập các biện pháp bảo vệ và chính sách có liên quan. Để nhân sự sử dụng GenAI an toàn, hiệu quả, các chính sách của tổ chức đóng vai trò rất quan trọng, giúp giám sát các trường hợp sử dụng AI, xác định cách thức tổ chức, DN sử dụng dữ liệu thu được...
Bà Maria Axente dẫn chứng một số vụ cáo buộc liên quan đến AI tại các tổ chức, DN lớn trên toàn cầu và nêu bật những hạn chế lớn trong các hệ thống GenAI, có thể tạo ra kết quả không chính xác hoặc gây hiểu lầm. Nhiều DN chưa có quy định cho nhân viên sử dụng các nền tảng AI dẫn đến nhiều rủi ro, điển hình là trường hợp nhân viên tải không đúng cách dữ liệu của công ty vào một tập dữ liệu có thể truy cập công khai, dẫn đến tình trạng mất dữ liệu.
Bà Axente cũng đề cập đến những thách thức, rủi ro về kỹ thuật các tổ chức có thể phải đối mặt. Nếu các tổ chức, DN sử dụng công nghệ không phù hợp, những công nghệ này sẽ tạo ra nhiều tác động tiêu cực và có thể trở thành “con dao hai lưỡi”, gây ảnh hưởng tiêu cực tới hoạt động của tổ chức.
Các nền tảng AI có thể tạo ra những kết quả không chính xác. Đây là một thách thức lớn vì con người sử dụng AI để thực hiện một số nhiệm vụ đòi hỏi sự chính xác cao, đôi khi vượt xa khả năng của con người. Tại thời điểm này, các tổ chức, DN chưa thể hoàn toàn tin tưởng vào các đầu ra do AI tạo ra. Trong một số trường hợp, độ chính xác của các kết quả từ AI khá thấp (chỉ khoảng 45%). Vì vậy, bà Maria Axente đặt ra một nhu cầu cấp thiết là phải giải quyết những hạn chế về mặt kỹ thuật.
ICAEW dẫn chứng một cuộc khảo sát được thực hiện trên phạm vi toàn cầu, đánh giá phản ứng của công chúng về AI. Kết quả cuộc khảo sát cho thấy, người dân rất lo lắng, hoài nghi về những rủi ro từ AI, đồng thời dành sự quan tâm đặc biệt đến những rủi ro mới nổi này. Ngay cả những tổ chức, DN tiên phong về nghiên cứu, ứng dụng AI cũng bày tỏ lo ngại khi phải đối mặt, giải quyết những rủi ro liên quan đến GenAI. Do đó, ICAEW khuyến nghị, lãnh đạo các tổ chức, DN cần nhanh nhạy nắm bắt những rủi ro từ AI, đặc biệt tập trung đánh giá sớm những rủi ro tiềm ẩn nhằm sẵn sàng đối phó với mọi thách thức liên quan đến công nghệ mới./.
(Theo ICAEW)
