Trí tuệ nhân tạo AI bị cấm trong trường hợp nào

Dự thảo Luật Trí tuệ nhân tạo (AI) dự kiến sẽ trình Quốc hội vào cuối năm nay, đưa Việt Nam trở thành một trong số ít quốc gia có khung pháp lý toàn diện về AI.

Điều đáng chú ý của dự thảo Luật Trí tuệ nhân tạo là đã đưa ra quy định nghiêm cấm việc nghiên cứu, phát triển, cung cấp, triển khai và sử dụng hệ thống trí tuệ nhân tạo trong 9 trường hợp. Cụ thể như sau:

Một là, thao túng nhận thức, hành vi của con người một cách có chủ đích nhằm làm mất khả năng tự chủ, ra quyết định, dẫn đến hoặc có khả năng dẫn đến tổn hại về thể chất hoặc tinh thần.

Hai là, lợi dụng các điểm yếu của một nhóm người cụ thể liên quan đến tuổi tác, khuyết tật hoặc hoàn cảnh kinh tế, xã hội để tác động đến hành vi của họ.

Ba là, chấm điểm tín nhiệm xã hội đối với cá nhân trên phạm vi rộng bởi cơ quan nhà nước, dẫn đến sự đối xử bất lợi hoặc không công bằng trong các bối cảnh xã hội không liên quan.

Bốn là, sử dụng hệ thống nhận dạng sinh trắc học từ xa theo thời gian thực tại các địa điểm công cộng cho mục đích thực thi pháp luật, trừ các trường hợp đặc biệt do luật chuyên ngành quy định nhằm phòng, chống tội phạm nghiêm trọng và phải được cơ quan nhà nước có thẩm quyền cho phép theo một trình tự đặc biệt.

Năm là, xây dựng hoặc khai thác cơ sở dữ liệu nhận dạng khuôn mặt quy mô lớn thông qua việc thu thập hình ảnh một cách tràn lan, không có chủ đích từ Internet hoặc camera giám sát.

Sáu là, sử dụng hệ thống nhận diện cảm xúc tại nơi làm việc và các cơ sở giáo dục, trừ trường hợp luật chuyên ngành cho phép vì lý do y tế hoặc an toàn với các điều kiện nghiêm ngặt.

Bảy là, sản xuất hoặc phổ biến nội dung giả mạo và các nội dung khác do trí tuệ nhân tạo tạo ra có khả năng gây nguy hại nghiêm trọng đến trật tự, an toàn xã hội, an ninh quốc gia.

Tám là, phát triển hoặc sử dụng hệ thống trí tuệ nhân tạo nhằm chống phá Nhà nước.

Chín là, các trường hợp khác do Chính phủ quy định sau khi có ý kiến của các cơ quan liên quan và thực hiện tham vấn công khai.

Theo Bộ Khoa học và Công nghệ, mọi hoạt động liên quan đến hệ thống trí tuệ nhân tạo tại Việt Nam phải tuân thủ các  nguyên tắc cơ bản, trong đó phải lấy con người làm trung tâm (nhân văn), AI phải phục vụ và hỗ trợ con người, không thay thế con người trong các quyết định trọng yếu và phải luôn nằm dưới sự kiểm soát, giám sát và chịu trách nhiệm cuối cùng của con người.

Hạnh Vân