Hơn 1 triệu trẻ em là nạn nhân của video khiêu dâm giả mạo

Quỹ Nhi đồng Liên hợp quốc (UNICEF) cho biết hình ảnh của ít nhất 1,2 triệu trẻ em trên thế giới đã bị lạm dụng để tạo ra các hình ảnh khiêu dâm giả mạo bằng công nghệ trí tuệ nhân tạo (AI).

Thực trạng này là hồi chuông cảnh báo trước những hệ lụy nghiêm trọng của các sản phẩm deepfake đối với nhóm nạn nhân nhỏ tuổi.

Nghiên cứu nêu trên được UNICEF tiến hành tại 11 quốc gia, phản ánh xu hướng phổ biến của các phần mềm kỹ thuật số có khả năng chỉnh sửa và loại bỏ hoàn toàn trang phục trong ảnh, nhằm tạo ra hình ảnh mang tính khêu gợi. Theo đó, ít nhất 1,2 triệu trẻ em trên toàn cầu hiện đối mặt với vấn nạn này.

Ở một số quốc gia, tỷ lệ này còn tăng cao, khi cứ 25 học sinh thì có 1 em bị lạm dụng hình ảnh bằng công nghệ.

UNICEF khẳng định về bản chất, việc tạo ra các hình ảnh khêu gợi bằng công nghệ deepfake là hành vi lạm dụng, các hình ảnh khêu gợi giả mạo chính là chứng cớ lạm dụng và những tổn hại mà hành vi lạm dụng bằng công nghệ gây ra đều là thật.

Bên cạnh đó, tổ chức này cũng cáo buộc các nhà phát triển AI không thiết lập các cơ chế bảo vệ cần thiết trong quá trình tạo ra các công cụ công nghệ.

Theo UNICEF, rủi ro sẽ ngày càng tăng khi các công cụ AI tạo sinh được tích hợp trực tiếp vào các nền tảng mạng xã hội, nơi các hình ảnh bị lạm dụng có thể lan truyền với tốc độ chóng mặt.

Ngoài ra, kết quả nghiên cứu của UNICEF cũng cho thấy trẻ em ngày càng nhận thức rõ hơn về mối đe dọa từ deepfake. Theo đó, tại một số quốc gia tham gia nghiên cứu, khoảng 2/3 trẻ em bày tỏ lo ngại AI có thể bị lạm dụng để tạo ra các hình ảnh khêu gợi hoặc video nhạy cảm giả mạo. Mức độ lo lắng giữa các quốc gia khác biệt đáng kể, qua đó cho thấy nhu cầu cấp bách phải tăng cường các biện pháp nâng cao nhận thức, phòng ngừa và bảo vệ trẻ em.

UNICEF cũng kêu gọi thiết lập các hàng rào bảo vệ mạnh mẽ đối với chatbot AI, đồng thời yêu cầu các doanh nghiệp công nghệ số chủ động ngăn chặn sự lan truyền của deepfake, thay vì chỉ gỡ bỏ các hình ảnh vi phạm sau khi chúng đã bị phát tán.

Cơ quan này nhấn mạnh sự cần thiết của việc ban hành luật tại tất cả các quốc gia nhằm mở rộng định nghĩa về chứng cớ lạm dụng tình dục trẻ em, trong đó có các hình ảnh giả mạo do AI tạo ra.

Các quốc gia tham gia nghiên cứu gồm Armenia, Brazil, Colombia, Cộng hòa Dominicana, Mexico, Montenegro, Maroc, Bắc Macedonia, Pakistan, Serbia và Tunisia.

Trước đó, chatbot AI mang tên Grok của tỷ phú Elon Musk đã phải đối mặt với các lệnh cấm và loạt điều tra tại nhiều quốc gia do cơ chế cho phép người dùng sử dụng các câu lệnh văn bản đơn giản để tạo và chia sẻ các hình ảnh phụ nữ và trẻ em mang tính khêu gợi.

PV