制作40名女艺人的裸体照片。孙兴慜也遭遇了深度造假犯罪（追踪60分钟）

*此内容由AI翻译生成。

平时信任的名人通过SNS劝说投资会怎么样呢?

电话里的声音肯定是我女儿，如果那是做工精良的假话？ 随着AI的发展,真假之间的界限正在消失。 只需几秒钟的声音和一张照片就能完成的DeepFake技术。 只要有这项技术，谁都可以冒充名人。

冒充名人的广告、电话诈骗、浪漫骗局等古典犯罪插上了AI的翅膀,正在更加巧妙地进化。 在"假冒伪劣"面前，我们能分辨出什么是真的吗？ 我们现在凭什么怀疑什么？ 《追踪60分钟》采访了"AI大转换"时代深入我们日常的犯罪情况。

■ 设计信赖的技术，深度伪造

去年4月，曾在首尔某地铁商场工作的李慧兰（化名）接到一个电话。 打电话过来的男子说"带着女儿",要求1000万韩元现金。 用女儿哭泣的声音向惠兰施压的电话诈骗犯。 但是却阻止了将钱汇到偶然听到李某通话内容的站务员的基地。 幸运的是,虽然避免了电话诈骗的损失,但仍然存在疑问。 他们到底是怎么把女儿的声音体现得那么一模一样的呢？

专家们表示,只要有10秒左右的语音,就可以通过AI技术轻松复制声音。 不经意间上传到SNS上的短视频中的声音也可以用于犯罪。

AI Deep Fake不仅可以复制实际存在的人的声音,还可以复制脸部。 这种技术还被用于浪漫扫描犯罪。 南相熙(化名)在2024年通过SNS认识了一名男性。 该男子持续通过聊天和视频通话与南某建立了交情,并介绍了著名的投资专家。 相信投资专家,投资了2亿韩元,但两个月后因支出受阻,失去了所有的钱。 原来，视频通话和课堂视频中，面对的面孔都是使用深度伪造技术的"假"脸。

■ 袭来日常生活的"深度伪造"性犯罪

随着Deep Fake技术的日常化,Deep Fake性犯罪也在明显增加。 郑珠妍（化名）在交往的前恋人的手机中发现了数十张裸体女性照片。 虽然是第一次见到的照片，但是脸还是很熟悉的。 照片中的脸庞正是郑某本人。 崔某除了女友郑某之外,还利用郑某的熟人、网红、艺人等40多名女性的脸制作了裸体照片。 崔某使用的deep fake网站通过一张照片可以制作成数百、数千张裸体照片。

任何人都可以轻松制作并传播Deep Fake照片,因此在青少年之间也像流行一样蔓延开来。 2024年,仁川地区发生了一名高中生以自己毕业的中学教师为对象制作deep fake性犯罪物的事件。 将毕业相册中的教师照片进行深度伪造,写下个人资料,散布在Telegram上。 根据调查,加害学生被特定,并召开了惩戒委员会,但由于该学生突然选择退学,惩戒告吹。 教师们表示,为了安全的教育现场,一定要加强deep fake性犯罪的处罚。

■ 名人怎么了？ 假冒伪劣广告

Deep Fake犯罪最容易的目标是众所周知的名人。 去年8月,国家足球队选手孙兴慜表示"可以在网上享受江原乐园赌场",宣传非法赌博应用程序的视频在网上传开。 但是视频中的孙兴慜选手不是真人,而是用深度伪造技术制造的"假人" 著名投资专家刘秀珍(音)也是Deep Fake广告的受害者。 复制刘秀珍的脸和声音的影像被用在非法投资的宣传上,受害者的抗议不断。 为了阻止广告,虽然也进行了举报,但是只听说没有明确的方法。

■ 快速发展的AI技术，我们的现状是？

Deep Fake技术快速发展,精巧到连专家都咋舌的程度。 在只要几行命令就能制作出比真人更真实的影像的现在,为了防止"假人"犯罪的技术发展到了什么程度呢?

一家通信公司为了防止Deep Voice犯罪,自行开发并商用化了该程序。 崇实大学AI保安研究中心为了从根本上切断Deep Voice的危险,正在集中研究防御技术。 连研究及鉴定AI犯罪的国立科学调查研究院也表示,很难追赶快速发展的AI犯罪。 在"比真的更真实"的AI制作物的洪流中,专家们嘱咐要培养辨别信息真伪的AI文解能力。

伴随着快速发展的AI技术，与日俱增的相关犯罪。 站在新AI世界的入口，我们该做哪些准备？ 《追踪60分钟》第1439集《AI和犯罪,真的消失了》将于9日晚10点在KBS 1TV播出。

© STARNEWS. 未经许可禁止转载或再分发

*此内容由AI翻译生成。