不堪忍受AI技术性犯罪，韩国女性求援中国互联网？

利用“深度伪造（Deepfake）”技术所实施的性犯罪日趋猖獗，成为当前韩国国内舆论风暴的中心，被视为“N号房”丑闻的翻版。据报道，目前海外通信软件“电报（Telegram）”中，传播着无数女性被AI生成“换脸”的“性影像”，其中参与犯案者多达22万人，引发韩国民众恐慌。

韩国受害者们为寻求该事件的能见度最大化，在海外平台上不断上传帖文求助，部分受害者也来到中国的社交媒体软件“发声”，呼吁更多人关注此事件。

“深度伪造”AI换脸示意图。图源：光明网

每个人都可能沦为受害者：

“深度伪造”技术泛滥、拥有“私密”性的社交平台成翻版“N号房”    

今年5月，韩国的一则报道，揭开了“深度伪造”性犯罪事件的冰山一角。

首尔大学毕业生朴某和姜某，从2021年7月至2024年4月的3年多里，盗用女性同学、熟人的照片，用“深度伪造”技术换脸合成色情制品，在“电报”上建立了近200个网络聊天室进行传播，警方称，朴某共参与制作、传播约1700份非法照片和视频，受害女性多达61人。这则报道，将“深度伪造”性犯罪，拉进韩国民众的视线。

什么是“深度伪造（Deepfake）”技术？

“深度伪造（Deepfake）”是一个合成词，是人工智能（AI）领域由“深度学习”（deep learning）和伪造（fake）合成的一个词汇。该技术使用人工智能生成技术，将个人的声音、面部表情及身体动作拼接合成虚假内容。用该技术形成的图像与视频，看起来非常逼真，难以识别其真伪。

事实上，“深度伪造”技术（Deepfake）的泛滥使得韩国女性的受害者数量以及受害者性影像的传播力度较“N号房”事件更上了一个台阶。“深度伪造”技术的特性，意味着每一个个体都有可能成为受害者。只需要上传受害者照片，就能够轻易将其“换脸”制造一段不堪入目的性影像。

值得注意的是，该事件中性影像的传播平台与“N号房”事件一样，仍然是海外社交媒体平台“电报”。该平台可以提供加密消息传递、“阅后即焚”等功能，拥有较为“私密”的特性，也因此成为犯罪行为的温床。

在“电报”平台中，存在一些付费的“深度伪造”频道，男性订阅用户提供女性照片，付费后便能够获得由“深度伪造”技术制成的性影像。某些群组甚至要求参与者通过向受害者发送伪造照片，以及分享受害者的反应，来换取群组的“入场券”。相关群组参与人数不等，少的几百上千人，多的超过十万人。

在此过程中，加害者还毫不犹豫地公布受害女性的身份，威胁受害者，索要钱财。

“深度伪造”性犯罪像“游戏”那般

在韩国青少年间蔓延

如此涉及性犯罪的行为，却在韩国青少年中像“游戏”那般蔓延。

其中，不乏青少年因为“只是觉得有趣”“只是在开玩笑”“用熟人的照片P图更真实”等原因，使用“深度伪造”技术制造、传播甚至是贩卖性影像。加之“电报”等社交媒体的匿名性，犯罪者更加有恃无恐，甚至出现了“只有傻瓜才会被警察逮住”的言论。

许多“电报”群组都是按学校名称或地区分类，以便用户轻松识别共同的熟人并制作可以分享的“深度伪造”性影像。若想要进入这些组群，不少用户被要求提供一名女性的照片，这些照片通常是从女同学的社交媒体账户中截取。

8月27日，韩国总统尹锡悦就“深度伪造”犯罪行为发表讲话称：“最近，在社交媒体上，针对不明人数的‘深度伪造’视频迅速传播。受害者通常是未成年人，而施暴者大多是青少年。”尹锡悦还表示：“虽然‘深度伪造’犯罪的托词是单纯的恶作剧，但这是在匿名的遮羞布之下恶意利用技术的明确的犯罪行为……任何人都可能成为受害者。”

韩国总统尹锡悦。图源：《环球时报》

韩国警方称，今年前七个月共报告了297起色情相关的“深度伪造”犯罪案件，高于去年的180起，几乎是2021年数据首次整理时的两倍。在178名被指控的人中，青少年涉案者超六成（113人）。

首尔警察厅官员表示，许多青少年因过度依赖信息技术，缺乏相关法律意识，参与制作和传播“深度伪造”内容，导致校园内此类犯罪行为泛滥。警方计划与教育部门合作，强化学校的数字性犯罪预防教育，包括告知学生分发非法合成材料是严重犯罪，以加深学生对数字性犯罪的认识。

“深度伪造”性犯罪引恐慌

韩国女性求援中国互联网

连日来，有几位韩国女性在中国社交平台发文求助。有微博用户发布帖文指出：“在韩国发生‘N号房’事件时，几乎没有加害者被捕，也没有披露加害者的名单。”因为害怕此次事件也会安静地过去，这名用户因此发帖，希望中国朋友把这件事传播出去。

部分韩国女性网友在微博发出帖文后，“N号房2.0”“韩国deepfake”等词条冲上微博热搜榜。

针对“深度伪造”犯罪在韩国引起恐慌，中科院女工程师张欣怡表示：经团队同意，已将近期参加在上海举办的外滩大会AI创新赛·全球deepfake（深度伪造技术）攻防挑战赛的AI模型向全球开源，让所有有需要的人都可以免费使用模型来对抗deepfake，希望通过技术手段，为每一个可能受到伤害的人提供保护。“我们不会停止对这类行为的追究，更不会放弃对技术的探索和完善。”张欣怡还表示：“既然有人利用技术造假，那么我们也要利用技术去阻止他们得逞。”

（越牛新闻综合直新闻）