Nữ nghệ sĩ khỏa thân chụp ảnhSon Heung Min cũng bị phạm tội giả mạo (theo dõi 60 phút)

*Nội dung này được dịch bằng AI.

Sẽ như thế nào nếu một người nổi tiếng mà tôi tin tưởng thường ngày lại nói chuyện qua SNS và khuyến khích đầu tư.

Giọng nói trong điện thoại chắc chắn là con gái tôi, nếu nó là đồ giả được làm một cách tinh xảo thì sao? Với sự phát triển của AI, ranh giới giữa thực và giả đang dần biến mất. Công nghệ Deepfake hoàn thiện chỉ với vài giây giọng nói và một bức ảnh. Chỉ cần có kỹ thuật này, bất cứ ai cũng có thể mạo danh người nổi tiếng.

Những tội phạm cổ điển như quảng cáo mạo danh người nổi tiếng, lừa đảo bằng giọng nói và quét lãng mạn đang phát triển một cách khéo léo hơn với đôi cánh là AI. Chúng ta có thể phân biệt được cái gì là thật trước "giả tạo như thật" không? Bây giờ chúng ta tin vào điều gì và phải nghi ngờ điều gì. "60 phút theo dõi" đã đưa tin về thực trạng tội phạm được đào sâu vào cuộc sống hàng ngày của chúng ta trong thời đại "cuộc đại chiến AI".

■ Kỹ thuật thiết kế niềm tin, Deep Fake

Tháng 4 năm ngoái, Lee Hye Ran (tên giả) làm việc tại một cửa hàng tàu điện ngầm ở Seoul đã nhận được một cuộc điện thoại. Người đàn ông gọi điện thoại nói rằng "đang giữ con gái" và yêu cầu 10 triệu won tiền mặt. Kẻ lừa đảo bằng giọng nói đã gây áp lực lên Hyeran khi nghe thấy tiếng khóc của con gái. Tuy nhiên, tôi đã có thể ngăn chặn việc chuyển tiền về căn cứ của nhân viên nhà ga tình cờ nghe thấy nội dung cuộc gọi của ông Lee. May mắn thay, thiệt hại về voice phishing đã được tránh, nhưng vẫn còn nhiều nghi vấn. Làm thế nào mà họ có thể thể hiện được giọng nói của con gái mình một cách giống nhau như vậy?

Các chuyên gia nói rằng chỉ cần có âm thanh trong khoảng 10 giây, có thể dễ dàng sao chép giọng nói thông qua công nghệ AI. Giọng nói trong đoạn video ngắn đăng tải lên SNS một cách vô tình cũng có thể được sử dụng cho tội phạm.

AI Deep Fake không chỉ có thể sao chép giọng nói mà còn cả khuôn mặt của người thực sự tồn tại. Kỹ thuật này cũng được sử dụng cho tội phạm quét lãng mạn. Nam Sang Hee (tên giả) quen biết một người đàn ông thông qua SNS vào năm 2024. Người đàn ông này liên tục chat, video call, kết thân với Nam và giới thiệu một chuyên gia đầu tư nổi tiếng. Tôi đã đầu tư 200 triệu won vì tin tưởng các chuyên gia đầu tư, nhưng hai tháng sau, tôi đã mất tất cả tiền do bị tắc nghẽn. Hóa ra tất cả khuôn mặt mà tôi gặp trong video gọi video và bài giảng đều là khuôn mặt giả sử dụng kỹ thuật Deep Fake.

■ Tội phạm tình dục giả tạo tấn công vào cuộc sống hàng ngày

Khi công nghệ Deep Fake trở nên phổ biến, tội phạm tình dục Deep Fake cũng đang tăng lên rõ rệt. Jung Joo Yeon (tên giả) đã tìm thấy hàng chục bức ảnh của một phụ nữ khỏa thân trong điện thoại di động của người yêu cũ đang hẹn hò. Đây là bức ảnh lần đầu tiên tôi nhìn thấy nhưng khuôn mặt thì quen thuộc. Khuôn mặt trong bức ảnh không khác gì bản thân Jung. Ngoài bạn gái Jung, Choi còn sử dụng khuôn mặt của hơn 40 phụ nữ bao gồm người quen của Jung, cúm và người nổi tiếng để tạo ra những bức ảnh khỏa thân. Trang web Deep Fake mà Choi sử dụng đã có thể tạo ra hàng trăm, hàng ngàn bức ảnh khỏa thân chỉ với một bức ảnh.

Vì hình ảnh Deep Fake có thể được tạo ra và phát tán một cách dễ dàng nên nó đã lan truyền như một trào lưu trong giới trẻ. Năm 2024, một học sinh trung học ở khu vực Incheon đã sản xuất một bộ phim tội phạm tình dục Deep Fake cho các giáo viên của trường trung học mà họ đã tốt nghiệp. Ảnh của giáo viên trong album tốt nghiệp được nhúng vào ảnh của giáo viên, viết chi tiết cá nhân và phát tán trên telegram. Sau khi bị điều tra, học sinh gây hại đã được chỉ định và ủy ban kỷ luật đã được tổ chức, nhưng việc kỷ luật đã bị hủy bỏ do học sinh đó đột ngột chọn bỏ học. Các giáo viên nói rằng hình phạt tội phạm tình dục giả mạo phải được tăng cường để đảm bảo hiện trường giáo dục an toàn.

■ Người nổi tiếng thì sao chứ? Quảng cáo sai lệch được làm từ Deep Fake

Mục tiêu dễ dàng nhất của tội phạm Deep Fake là một người nổi tiếng có khuôn mặt nổi tiếng. Vào tháng 8 năm ngoái, cầu thủ quốc gia Son Heung Min của đội tuyển bóng đá quốc gia đã quảng bá các ứng dụng đánh bạc bất hợp pháp và nói rằng "có thể tận hưởng sòng bạc Kangwon Land trực tuyến". Tuy nhiên, trong video, cầu thủ Son Heung Min không phải là một nhân vật thực mà là một "giả" được tạo ra bằng kỹ thuật Deep Fake. Yoo Soo-jin, một chuyên gia đầu tư nổi tiếng, cũng là nạn nhân của quảng cáo Deep Fake. Đoạn video sao chép khuôn mặt và giọng nói của Yoo Soo Jin được sử dụng để quảng bá đầu tư bất hợp pháp và sự phản đối của các nạn nhân không ngừng. Tôi đã báo cáo để ngăn chặn quảng cáo nhưng chỉ nghe nói rằng không có cách nào rõ ràng.

■ Địa chỉ hiện tại của chúng ta, công nghệ AI phát triển nhanh chóng?

Công nghệ Deepfake phát triển với tốc độ nhanh chóng, tinh vi đến mức ngay cả các chuyên gia cũng phải lè lưỡi ra. Bây giờ, chỉ cần một vài dòng lệnh là có thể tạo ra một video thực tế hơn thực tế, công nghệ để ngăn chặn tội phạm giả mạo đã phát triển đến đâu?

Một công ty viễn thông đã phát triển và thương mại hóa chương trình của riêng mình để ngăn chặn tội phạm Deep Voice. Trung tâm nghiên cứu an ninh AI của Đại học Soongsil đang tập trung nghiên cứu công nghệ phòng thủ để ngăn chặn nguồn gốc nguy hiểm của Deep Voice. Ngay cả Viện nghiên cứu điều tra khoa học quốc gia, nơi nghiên cứu và giám định tội phạm AI, cũng cho biết thực tế là không dễ để theo đuổi tội phạm AI đang phát triển nhanh chóng. Trong cơn lũ của các tác phẩm AI "giống thật hơn cả thật", các chuyên gia yêu cầu nâng cao khả năng hiểu biết AI để xác định tính xác thực của thông tin được đưa ra.

Các tội phạm liên quan ngày càng gia tăng cùng với công nghệ AI phát triển với tốc độ nhanh. Chúng ta phải chuẩn bị như thế nào khi bước vào thế giới AI mới? Tập 1439 của "The Chaser 60 Minutes" tập 1439 "AI, tội phạm và sự thật đã biến mất" có thể được xác nhận trên KBS 1TV lúc 10h (giờ Hàn Quốc) ngày 9/5.

© STARNEWS. Đã đăng ký bản quyền. Cấm sao chép hoặc phân phối lại

*Nội dung này được dịch bằng AI.