20 người bị bắt do phát tán hình ảnh AI lạm dụng trẻ em

Cơ quan Cảnh sát Liên minh châu Âu vừa bắt giữ 20 người phát tán hình ảnh trẻ em bị xâm hại tình dục do trí tuệ nhân tạo (AI) tạo ra.

Đây là một trong những chiến dịch đầu tiên Cơ quan Cảnh sát Liên minh châu Âu (Europol) liên quan đến dữ liệu lạm dụng trẻ em do AI tạo ra.

Nghi phạm là người Đan Mạch, điều hành nền tảng trực tuyến phân phối tài liệu do AI tạo ra. Người dùng phải trả "khoản thanh toán trực tuyến tượng trưng" để truy cập nền tảng này.

Europol thông tin thêm, chiến dịch này được tiến hành đồng thời với sự tham gia của các cơ quan chức năng từ 19 quốc gia. Hầu hết trong số 25 vụ bắt giữ trước đó trong chiến dịch do chính quyền Đan Mạch chỉ đạo. Dự kiến trong tuần tới sẽ có nhiều vụ bắt giữ hơn nữa.

Trước làn sóng tác động mạnh mẽ của trí tuệ nhân tạo, các quốc gia đã và đang nghiên cứu, áp dụng các luật quy định sử dụng công cụ AI trên các lĩnh vực.

Cuối năm 2024, Cơ quan quản lý internet của Trung Quốc tăng cường kiểm soát nội dung do AI tạo ra bằng chính sách yêu cầu tất cả các nền tảng kỹ thuật số phải dán nhãn tài liệu do AI tạo ra.

Theo đó, các công dân mạng có nghĩa vụ gắn nhãn mọi nội dung họ tạo ra bằng AI và những người sử dụng công cụ nền tảng sẽ phải xác định danh tính của mình, để lại dấu vết kỹ thuật số. Nhật ký hoạt động của người dùng phải được lưu trữ tối thiểu sáu tháng để đảm bảo trách nhiệm giải trình.

Cùng với Trung Quốc, nhiều nước trên thế giới đang thực hiện các biện pháp hạn chế tác động của nội dung do AI điều khiển. Ví dụ, kế hoạch phối hợp về trí tuệ nhân tạo của Liên minh châu Âu, đạo luật trách nhiệm giải trình về Deepfakes của Mỹ hay sách trắng về tác hại trực tuyến của Vương quốc Anh đều phản ánh những nỗ lực toàn cầu nhằm đảm bảo tính xác thực của nội dung trực tuyến và bảo vệ sở hữu trí tuệ.