Nước đầu tiên cấm AI tạo ảnh khiêu dâm trẻ em

Vương quốc Anh sẽ trở thành quốc gia đầu tiên ban hành luật hình sự hóa việc sử dụng AI để tạo hình ảnh khiêu dâm trẻ em, với mức phạt lên đến 5 năm tù.

Nước đầu tiên trên thế giới hình sự hóa sử dụng AI tạo ảnh khiêu dâm trẻ em - Ảnh 1.

Việc tạo ra, sở hữu và sử dụng AI để tạo ra ảnh khiêu dâm trẻ em có thể bị phạt đến 5 năm tù ở Anh - Ảnh: REUTERS

Ngày 1-2, giờ địa phương, Chính phủ Anh cho biết sẽ ban hành luật chống lại các công cụ trí tuệ nhân tạo (Nước đầu tiên trên thế giới hình sự hóa sử dụng AI tạo ảnh khiêu dâm trẻ em - Ảnh 2.300 triệu trẻ em là nạn nhân lạm dụng tình dục trực tuyến mỗi nămĐỌC NGAY

Theo bà Yvette Cooper, các luật mới được thiết kế để giữ an toàn cho trẻ em khi công nghệ phát triển.

"Chúng tôi biết rằng các hoạt động trực tuyến của những kẻ săn mồi bệnh hoạn thường dẫn đến việc chúng thực hiện hành vi lạm dụng khủng khiếp nhất ngoài đời thực", Hãng tin AFP dẫn lời bà Cooper và nhấn mạnh phải giải quyết vấn nạn lạm dụng tình dục trẻ em cả trực tuyến lẫn ngoài đời thật.

"Trẻ em sẽ được bảo vệ trước mối đe dọa ngày càng tăng của những kẻ săn mồi tạo ra hình ảnh AI và tình trạng lạm dụng tình dục trực tuyến", Bộ trưởng Nội vụ Anh nói.

Luật mới cũng sẽ hình sự hóa việc vận hành các trang web chia sẻ nội dung lạm dụng tình dục trẻ em hoặc hướng dẫn cách dụ dỗ trẻ em, với mức phạt lên đến 10 năm tù.

Các biện pháp này là một phần của dự luật về tội phạm và cảnh sát khi trình lên Quốc hội Anh.

Trước đó, Tổ chức Internet Watch Foundation (IWF) đã cảnh báo về số lượng hình ảnh AI lạm dụng tình dục trẻ em ngày càng tăng.

Trong vòng 30 ngày năm 2024, các nhà phân tích của IWF đã phát hiện 3.512 hình ảnh lạm dụng trẻ em do AI tạo ra trên một trang web đen. Số lượng hình ảnh thuộc danh mục nghiêm trọng nhất cũng tăng 10% so với năm trước.

Nước đầu tiên trên thế giới hình sự hóa sử dụng AI tạo ảnh khiêu dâm trẻ em - Ảnh 3.Hàn Quốc sử dụng công nghệ AI theo dõi tội phạm tình dục trên mạng

Thành phố Seoul đã giới thiệu một hệ thống giám sát dựa trên trí tuệ nhân tạo (AI) để tự động tìm và xóa các video lạm dụng tình dục trên mạng xã hội và ngăn chặn việc phát lại chúng.