Hàng chục SV bị AI ghép ảnh, dựng 700 video khiêu dâm & 20 nữ sinh bị phát tán ảnh khỏa thân do AI tạo ra | Tuổi Trẻ. Fr: Phạm Ngọc Bích
Minh Nguyen Quang
Hàng chục sinh viên bị AI ghép ảnh, dựng 700 video khiêu dâm
Các đối tượng xấu đã sử dụng công nghệ AI cắt ghép hình ảnh khuôn mặt của các sinh viên vào phần cơ thể khỏa thân để dựng các video và ảnh khiêu dâm.
Cơ quan chức năng Ecuador phát hiện hàng chục sinh viên đã bị AI ghép ảnh, dựng 700 video khiêu dâm đăng lên mạng - Ảnh: The Star/Freepik
Các công tố viên Ecuador đang mở cuộc điều tra việc phát tán các video có nội dung khiêu dâm do trí tuệ nhân tạo (AI) dàn dựng.
Cuộc điều tra được tiến hành sau khi nhiều hình ảnh và video do AI chỉnh sửa sử dụng hình ảnh các sinh viên của một học viện giáo dục ở Quito xuất hiện trên Internet.
Các đối tượng xấu đã sử dụng công nghệ AI cắt ghép hình ảnh khuôn mặt của các sinh viên tại học viện vào phần cơ thể khỏa thân để dựng các video và ảnh khiêu dâm.
Đại diện chương trình Grupo Rescate Escolar chống bắt nạt học đường, Sybel Martinez, cho biết có khoảng 700 video với nội dung khiêu dâm sử dụng hình ảnh của 20-24 sinh viên theo cách trên.
Tại Ecuador, hành vi phát tán các hình ảnh khiêu dâm trẻ em và thanh thiếu niên có thể bị phạt tù lên đến 16 năm.
Sự tiến bộ của AI đang gây ra ngày càng nhiều mối lo ngại công nghệ này có thể bị lạm dụng cho các mục đích xấu như tạo ra những hình ảnh và video giả mạo khuôn mặt bằng cách mô phỏng máy tính dựa trên những dữ liệu thực tế (deepfakes).
Theo kết quả nghiên cứu năm 2019 do Công ty AI Sensity của Hà Lan thực hiện, khoảng 96% các video deepfake phát tán trên Internet có nội dung khiêu dâm và hầu hết nạn nhân bị giả mạo là nữ giới.
Viễn cảnh 'hàng tỉ người giả' đáng sợ tạo ra nhờ AICho rằng các nội dung được tạo ra từ AI (trí tuệ nhân tạo) có khả năng sẽ làm sụp đổ niềm tin và nền dân chủ, nhà sử học Yuval Noah Harari kêu gọi phải có biện pháp hình sự đối với những kẻ đứng sau.
20 nữ sinh bị phát tán ảnh khỏa thân do AI tạo ra2
Kẻ xấu đã lên Instagram của các nữ sinh lấy hình ảnh các cô, sau đó dùng trí tuệ nhân tạo (AI) biến họ thành khỏa thân rồi phát tán. Đã có nữ sinh bị tống tiền.
20 nữ sinh đã bị phát tán ảnh khỏa thân do AI tạo ra - Ảnh minh họa: easinglife.com
Theo Straitstimes ngày 21-9, cảnh sát Tây Ban Nha đang điều tra vụ phát tán ảnh khỏa thân gây phẫn nộ dư luận trong nước. Nạn nhân là các nữ sinh chưa thành niên, có em mới 11 tuổi.
Thông tin từ trang Euro News, khi trở lại trường sau kỳ nghỉ hè, hơn 20 nữ sinh ở Almendralejo, một thị trấn ở miền nam Tây Ban Nha, bất ngờ nhận được những bức ảnh khỏa thân của mình trên điện thoại di động.
Các em không hề chụp những bức ảnh này. Nhưng các em nhận ra kẻ xấu đã lấy cắp ảnh mà các em đăng trên tài khoản Instagram cá nhân, sau đó dùng trí tuệ nhân tạo (AI) chỉnh sửa ảnh. Kết quả là ảnh các em có mặc trang phục biến thành ảnh khỏa thân, và nhìn như ảnh thật.
"Thật quá sức tưởng tượng, quá kinh tởm và phẫn nộ", Miriam Al Adib, phụ huynh của một nữ sinh, viết trên tài khoản Instagram của mình.
Al Adib lo ngại những bức ảnh có thể đã được phát tán đến các cổng Internet dành cho người lớn hoặc các trang web khiêu dâm. Trong khi đó một phụ huynh tên Fátima Gómez nói với Extremadura TV rằng con gái bà đã bị tống tiền.
Fátima Gómez cho biết khi con bà trò chuyện với một chàng trai trên mạng xã hội, anh ta yêu cầu cô bé đưa tiền. Khi cô bé từ chối, anh ta lập tức gửi một bức ảnh khỏa thân của cô.
Gia đình các nạn nhân đã làm đơn tố giác và hiện Cảnh sát Quốc gia đã mở cuộc điều tra. Bước đầu, họ xác định có một số trẻ vị thành niên có liên quan. Một chính trị gia địa phương tiết lộ rằng một số người trong đó là bạn cùng lớp của các nữ sinh.
Mặc dù ảnh khỏa thân là giả nhưng nỗi đau của các nữ sinh trong vụ việc rất lớn. Không chỉ bị ám ảnh bởi những bức ảnh mình không mặc gì, các nữ sinh còn hứng chịu những ánh nhìn soi mói, những lời xì xầm bàn tán của bạn bè...
"Các người không biết được tổn hại mà các người đã gây cho những thiếu nữ này, cũng không biết tội ác mà mình đã gây ra", Al Adib viết trong tin nhắn gửi tới những người phát tán ảnh.
Mối lo AI ngày càng lớn
Sự việc cũng một lần nữa gióng hồi chuông báo động về mặt trái của AI. Đó là nó có thể bị sử dụng cho những mục đích xấu như tạo ra các hình ảnh, video giả mạo dựa trên khuôn mẫu có thật, hay còn gọi là "deepfake".
Theo AFP, trong một nghiên cứu năm 2019 của Công ty AI Sensity của Hà Lan, khoảng 96% các video deepfake trực tuyến chứa nội dung khiêu dâm.