Khốn khổ vì deepfake khiêu dâm

Mẹ và bé
Rate this post

Mỗi sáng, Jennifer vẫn cầu nguyện Chúa xóa những đoạn phim deepfake khiêu dâm sử dụng khuôn mặt của cô đang lan truyền trên Internet.

Jennifer, sống ở North Carolina cho biết, cô thường xuyên nhận được những tin nhắn với nội dung không nghiêm túc từ những người lạ trên mạng. Những người này đã xem video khiêu dâm với khuôn mặt của cô ấy được ghép vào những phụ nữ khác thông qua công nghệ deepfake. Đoạn video này được gắn tên thật, địa chỉ nhà và tài khoản Instagram của Jennifer, khiến cô gặp rắc rối trong nhiều tháng mà không có cách nào ngăn chặn được.

“Đàn ông nào cũng vậy khi nhắn tin. Đầu tiên, họ gọi tôi xinh đẹp, nhưng sau đó họ bắt đầu chửi bới, bảo tôi gửi ảnh hoặc video khỏa thân cho họ. Khi tôi nói không, họ không buông, và còn hỏi. Jennifer nói.

Không chỉ trên Instagram, Jennifer đã tìm thấy nhiều chủ đề thảo luận về video có khuôn mặt của mình trên Internet. “Tôi cảm thấy tuyệt vọng, không thể làm gì để ngăn chặn hành vi quấy rối dai dẳng”, cô nói.

Jennifer cho biết cô đã báo cáo vụ việc với FBI nhưng thừa nhận việc này rất khó giải quyết. “Làm thế nào để bạn tìm thấy những người ẩn danh trên mạng nếu bạn không có manh mối,” cô tự hỏi. “Tất cả những gì tôi có thể làm là cười và cố gắng sống hết mình.”

Jennifer chỉ là một trong số rất nhiều nạn nhân của deepfake – công nghệ sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để tạo ra hình ảnh hoặc video sống động như thật. Lần đầu tiên xuất hiện vào năm 2017, deepfake ngay lập tức thu hút sự chú ý với hàng loạt video khiêu dâm liên quan đến những người nổi tiếng, như diễn viên Gal Gadot, Emma Watson, Scarlett Johansson hay Daisy Ridley trở thành nạn nhân.

Diễn viên Gal Gadot bị ghép mặt vào phim khiêu dâm.

Diễn viên Gal Gadot bị ghép mặt vào phim khiêu dâm.

Một số ứng dụng tưởng như vô hại có chức năng chính là hoán đổi khuôn mặt, nhưng nhiều công cụ deepfake tiên tiến, khiến người xem khó phân biệt thật – giả, đang nở rộ và được sử dụng cho mục đích xấu.

Theo Sensity AI, một công ty nghiên cứu deepfake được thành lập vào năm 2018, hơn 90% nội dung deepfake hiện nay là khiêu dâm, chủ yếu là ảnh và video hướng đến phụ nữ. Trong khi đó, FBI có hơn 18.000 nạn nhân được ghi nhận vào năm 2021, gây thiệt hại cho họ khoảng 14 triệu USD. Gần một nửa số nạn nhân trong độ tuổi từ 20 đến 39.

Sự phát triển nhanh chóng của lĩnh vực kỹ thuật số khiến việc kiểm soát nội dung deepfake ngày càng trở nên phức tạp và khó khăn. Ví dụ: một bot AI trên Telegram ra mắt vào năm 2019 đã tạo ra hàng nghìn bức ảnh sâu về phụ nữ và trẻ em, sau đó được tự động gửi đến một loạt tài khoản. Theo dõi Có dâyNội dung giả do bot tạo ra đã được chia sẻ hơn 100.000 lần trong các kênh trò chuyện Telegram, nhưng ứng dụng không có nhiều cách để ngăn chặn.

Instagram, TikTok, YouTube, Twitter và Facebook có các chính sách “ngăn chặn thông tin sai lệch”, nhưng hầu hết đều nằm ngoài tầm kiểm soát do khối lượng lớn nội dung deepfake. Trong khi đó, pháp luật chưa có chế tài cụ thể đối với hành vi giả mạo khiêu dâm.

Theo các chuyên gia, luật chống deepfake là rất cần thiết trong bối cảnh công nghệ ngày càng bị lạm dụng. “Deepfake là chiếc hộp của Pandora. Thật rắc rối khi tốc độ phản hồi luật quá chậm”, Rebecca Delfino, giáo sư tại Trường Luật Loyola, nhận xét. Trong thần thoại Hy Lạp, Pandora là chiếc hộp chứa linh hồn xấu xa của con người.

Không chỉ trong đời sống, công nghệ deepfake còn gây lo ngại khi được sử dụng vào mục đích chính trị. Năm 2018, một video của cựu Tổng thống Mỹ Barack Obama nói rằng nội dung sai sự thật sau đó đã bị phát hiện là giả mạo. Vào tháng 3, một đoạn video cho thấy Tổng thống Ukraine Volodymyr Zelensky đầu hàng đã lan truyền trên mạng và mất hơn 10 giờ để được xác định là một kẻ phá hoại.

Wael Abd-Almageed, người sáng lập Phòng thí nghiệm phân tích đa phương tiện và trí tuệ hình ảnh cho biết: “Phát hiện Deepfake là một trò chơi mèo vờn chuột, giống như săn virus. Đó là một cuộc đua mà chúng ta đang thua”. của Đại học Nam California (VIMAL), nhận xét.

Còn với những nạn nhân như Jennifer, họ được khuyên “cách tốt nhất để chống trả là lùi lại”, tức là không nên làm gì cả. “Cảnh sát nói với tôi rằng đừng bận tâm đến những kẻ quấy rối,” cô nói.

Jennifer thường cầu nguyện vào buổi sáng. Nhưng vào ban đêm, cô vẫn kích hoạt hệ thống an ninh mới được trang bị cho ngôi nhà, cẩn thận kiểm tra mọi thứ xung quanh. “Tôi đã từ bỏ việc hẹn hò”, cô nói. “Tôi vẫn cảm thấy ổn, mặc dù không hoàn toàn.”

Bảo Lâm (theo Morning Brew)

Leave a Reply

Your email address will not be published.