Người dùng trí tuệ nhân tạo ngày càng lo ngại về lừa đảo

Kết quả khảo sát cho thấy số lượng người dùng AI trên toàn cầu đã tăng đáng kể (51% người đã từng sử dụng AI, so với 39% vào năm 2023). Tuy nhiên, mối lo ngại về AI cũng gia tăng 88% người được khảo sát bày tỏ lo lắng về AI tạo sinh (generative AI), cao hơn mức 83% của năm trước. Đặc biệt, khảo sát cho thấy người dùng gặp khó khăn trong việc phân biệt nội dung do AI tạo ra, làm gia tăng rủi ro liên quan đến nội dung sai lệch hoặc lạm dụng AI.

Microsoft đã khảo sát gần 15.000 thanh thiếu niên từ 13-17 tuổi và người trưởng thành tại 15 quốc gia về nhận thức và trải nghiệm liên quan đến an toàn trực tuyến. Một điểm nổi bật là khả năng nhận diện nội dung AI của người dùng còn hạn chế. Khi xem loạt hình ảnh từ bài kiểm tra "Thật hay giả" (Real or Not) của Microsoft, 73% số người được hỏi thừa nhận khó phân biệt hình ảnh do AI tạo ra và chỉ 38% trả lời đúng. Bên cạnh đó, các mối quan ngại chính về AI tạo sinh gồm: Lừa đảo trực tuyến (73%); Lạm dụng tình dục hoặc quấy rối trực tuyến (73%); Deepfake (72%).

Với mục tiêu bảo vệ người dùng khỏi nội dung độc hại, Microsoft phát triển AI một cách có trách nhiệm nhằm khai thác lợi ích, đồng thời, thúc đẩy nhận thức cộng đồng thông qua các chương trình giáo dục. Với cam kết bảo vệ người dùng khỏi nội dung độc hại trên internet và duy trì quyền tự do ngôn luận, quyền riêng tư. Microsoft đề xuất áp dụng quy định an toàn dựa trên rủi ro, thay vì những biện pháp hạn chế quá mức có thể làm suy giảm quyền tự do cá nhân. Đồng thời, Microsoft cũng thúc đẩy các sáng kiến lập pháp nhằm bảo vệ người dùng khỏi nội dung do AI tạo ra có tính lạm dụng.

Theo báo cáo, Microsoft sẽ tiếp tục hợp tác chặt chẽ với các nhà lập pháp và cơ quan quản lý trên toàn thế giới để tìm ra giải pháp cân bằng giữa bảo vệ người dùng và quyền tự do cá nhân.