女 芸能人40人裸体写真製作..ソン·フンミンもやられたディープフェイク犯罪 (追跡60分)

*このコンテンツはAIによって翻訳されました。

普段、信頼していた有名人がSNSで声をかけて投資を勧めるのはどうだろうか。

電話の中の声は私の娘に違いないが、それが精巧に作られた偽物なら？ AIの発展で本物と偽物の境界が消えている。 ほんの数秒の音声と写真一枚で完成するディープフェイク技術。 この技術さえあれば、誰でも有名人を詐称することができる。

有名人詐称広告、ボイスフィッシング、ロマンス詐欺など古典的な犯罪がAIという翼をつけてさらに巧妙に進化している。 「本物のような偽物」の前で私たちは何が本物なのか区別できるだろうか。 国民は今、何を信じて何を疑わなければならないのか。 「追跡60分」は「AI大転換」時代、私たちの日常に深く入り込んだ犯罪実態を取材した。

■ 信頼を設計する技術、ディープフェイク

昨年4月、ソウルのある地下鉄商店街で働いていた李ヘラン（仮名）氏は、1通の電話を受けた。 電話をかけてきた男性は「娘を連れている」として現金1千万ウォンを要求した。 娘の泣き声を聞かせながらヘランさんを圧迫した振り込め詐欺犯。 しかし、李氏の通話内容を偶然聞いた駅員の基地に金を送金することを防ぐことができた。 幸いボイスフィッシング被害は避けたが、いつまでも疑問が残った。 彼らは一体どうやって娘の声をあんなにそっくりに具現したのだろうか？

専門家たちは10秒前後の音声さえあれば、AI技術を通じて簡単に声を複製できると話す。 何気なくSNSに掲載した短い映像の中の声も犯罪に活用される可能性があるということだ。

実際に存在する人の声だけでなく、顔も複製できるAIディープフェイク。 このような技術はロマンス詐欺犯罪に活用されることもある。 ナム·サンヒさん（仮名）は2024年、SNSを通じてある男性と知り合った。 該当男性は持続的にチャットとビデオ通話をかけてきて、ナム氏と親交を深め、有名な投資専門家を紹介した。 投資専門家を信じて2億ウォンを投資したが、2ヵ月後に出金ができなくなり、すべてのお金を失った。 後で分かったことだが、映像通話と講義映像の中で向き合った顔は全てディープフェイク技術を使用した「偽物」の顔だった。

■ 日常を襲ったディープフェイク性犯罪

ディープフェイク技術が日常化し、ディープフェイク性犯罪も目立って増えている。 鄭周永（チョン·ジュヨン、仮名）氏は交際していた元恋人の携帯電話から数十枚の裸体の女性写真を発見した。 初めて見る写真だが、顔は見慣れていた。 写真の中の顔はチョン氏本人だった。 チェ氏はガールフレンドのチョン氏のほかにも、チョン氏の知人、インフルエンサー、芸能人など40人以上の女性の顔を利用して裸体写真を製作した。 チェ氏が使用したディープフェイクサイトは写真1枚で数百、数千枚の裸体写真を作ることができた。

ディープフェイク写真は誰でも簡単に作って流布することができるため、青少年の間で流行のように広がったりもした。 2024年、仁川地域である高校生が自身が卒業した中学校の教師たちを対象にディープフェイク性犯罪物を製作した事件が発生した。 卒業アルバムに出てきた教師の写真をディープフェイクし、人的事項を書いてテレグラムに流布したのだ。 捜査により加害学生が特定され懲戒委員会が開かれたが、該当学生が突然自主退学を選択し懲戒は失敗に終わった。 教師たちは安全な教育現場のためにディープフェイク性犯罪処罰が必ず強化されなければならないと話す。

■ 有名人がなんで？ ディープフェイクで作られた虚偽広告

ディープフェイク犯罪の最も簡単な標的は、顔が知られた有名人だ。 昨年8月、サッカー国家代表ソン·フンミン選手が「江原ランドカジノをオンラインで楽しむことができる」として不法賭博アプリケーションを広報する映像がオンライン上に広がった。 だが、映像の中のソン·フンミン選手は実際の人物ではなく、ディープフェイク技術で作られた「偽物」だ。 有名投資専門家のユ·スジン氏もディープフェイク広告の被害者だ。 ユ·スジン氏の顔と声を複製した映像が不法投資の広報に使われ、被害者の抗議が絶えないという。

■ 急速に発展するAI技術、我々の現状は？

ディープフェイク技術は速いスピードで発展し、専門家でさえ舌を巻くほど精巧になった。 命令語数行で本物よりさらに本物のような映像が作られる今、「偽物」たちの犯罪を防ぐための技術の発展はどこまで来ているだろうか？

ある通信会社は、ディープボイス犯罪を防ぐため、独自のプログラムを開発し、商用化した。 崇実大学AIセキュリティ研究センターでは、ディープボイスの危険を根本的に遮断するための防御技術研究に集中している。 AI犯罪を研究および鑑識する国立科学捜査研究院さえも、急速に発展するAI犯罪を追いかけるのが容易ではないのが現実だと話す。 「本物よりもっと本物のような」AI製作物の洪水の中で、専門家たちはあふれ出る情報の真偽を選り分けるAIリテラシーを育てることを頼む。

速いスピードで発展するAI技術と共に、日増しに増加する関連犯罪。 新AI世界の入り口に立っている私たちはどんな準備をすべきか？ 「追跡60分」1439回「AIと犯罪、本物が消えた」編は9日午後10時、KBS1TVで確認することができる。

© STARNEWS. 無断転載・再配布禁止

*このコンテンツはAIによって翻訳されました。