全球AI换脸色情人物一半是韩国人！韩方找法方：要和“电报”谈

　　[文/观察者网 阮佳琪]

　　最近一周，韩国“深度伪造”（deepfake）AI换脸性犯罪事件曝光，以女性为主的近千人受到侵害，200多所学校牵涉其中，初高中生未成年人作案比例惊人，正进一步引发韩国社会恐慌。据韩联社29日报道，在当天召开的韩国国会紧急会议上，韩国政府和执政党国民力量党就加强措施打击此类犯罪达成共识。

　　报道提到，对于有关受害者照片和信息在“电报”（Telegram）群组的流出，双方还决定推动与“电报”的运营公司开通合作热线，并采取立法措施，打击制作并意图分发“深度伪造”色情内容的犯罪行为，对有关犯罪者的最高监禁期限从目前的5年提高到7年，从立法角度将“虚假视频”传播的刑期与“非法拍摄”等同。

　　执政党政策委员会主席金相勋在会后表示，“深度伪造”色情内容正通过“电报”广泛传播，但由于Telegram的服务器位于海外，这让国际合作面临挑战。他补充道，韩国政府将与“电报”的运营方举行会议，并寻求与该公司建立热线电话，以推动定期协商机制。

　　报道还称，考虑到“电报”的创始人兼首席执行官帕维尔·杜罗夫近日在法国被捕后获得保释，韩国国家媒体监督机构韩国广播通信委员会表示，韩方已紧急致函法国当局，要求协助打击网络性犯罪。

　　当地时间8月30日，“深度伪造”犯罪让韩国社会恐慌，多名女性中央政府集会前抗议。视觉中国

　　过去一周时间里，韩国警方发现了大量与学校、医院、军队有关的涉案社交媒体群组，这些群组里的淫秽影像经深度伪造换脸而制成。涉及群组的参与人数不等，少的几百上千人，多的有数万人以上，总计参与用户多达22万人（包含可能重复的情况）。经初步调查，受害者80%为女性，包括大学生、教师、军人等，甚至有不少初高中生等未成年人。

　　根据韩国妇女人权研究所公布的数据，从今年1月1日到上周日，共有781名“深度伪造”受害者在线求助，其中288名（36.9%）是未成年人。据韩国教师联盟估计，目前已有超过200所学校受到影响。

　　一个更令人恐慌的趋势是，在这些案件中，未成年人作为加害者的涉案比例相当惊人。

　　“网上最近针对不明人数的深度伪造视频正迅速传播。受害者通常是未成年人，而施暴者大多是青少年。”8月27日，尹锡悦就此次事件发表讲话称：“虽然他们拿恶作剧为这类行为开脱，但这是在匿名的遮羞布之下恶意利用技术的明确的犯罪行为……任何人都可能成为受害者。”

　　根据韩国警察厅的说法，今年前七个月共报告了297起色情相关的“深度伪造”犯罪案件，高于去年的180起，几乎是2021年数据首次整理时的两倍。在178名被指控的人中，青少年涉案者超六成（113人）。

　　在最近4年被立案调查的嫌疑人中，青少年比例仍然维持在较高水平，从2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年前7个月则达到了73.6%。

　　据《朝鲜日报》报道，因为“只是觉得有趣”、“只是在开玩笑”、“用熟人的照片P图更真实”等原因，“深度伪造”在韩国10代群体之间像“游戏”一样盲目蔓延。加之“电报”等社交媒体的匿名性，犯罪者更加有恃无恐，甚至出现了“只有傻瓜才会被被警察逮住”的言论。

　　《东亚日报》的报道提到了一个案例：2021年7月，韩国某校一名初三学生A某委托他人，用深度伪造将两名15岁女生的脸部合成到裸体照片中，此后A某自己学会了制作方法，并先后制作了包括以儿童、青少年为性剥削对象的177件伪造色情图频，在“电报”聊天室中贩卖盈利。A某更变本加厉将合成图片发送给受害女性，威胁对方拍摄裸体视频。被警方抓获后，A某去年被判有期徒刑2年，缓刑4年。

　　韩联社指出，深度伪造性犯罪在青少年中蔓延，但政府并没有采取任何预防措施，没有通过教育进行主动干预，只能通过执法机构在事后进行惩处。韩国政府政策协调办公室30日对此回应表示，韩国教育部已决定在教育领域采取具体措施，包括加强学校的预防教育等。

　　首尔警察厅官员表示，许多青少年因过度依赖信息技术，缺乏相关法律意识，参与制作和传播深度伪造内容，导致校园内此类犯罪行为泛滥。警方计划与教育部门合作，强化学校的数字性犯罪预防教育，包括告知学生分发非法合成材料是严重犯罪，以加深学生对数字性犯罪的认识。

　　在敦促政府迅速采取措施遏制此类犯罪行为中，韩国国民力量党党首韩东勋也强调，有必要下调未成年人承担刑事责任的年龄标准。

　　按照韩国《少年法》目前的规定，年龄在10至14岁之间的儿童不对自己的行为承担刑事责任，不会被送往监狱，而是会被送去少年拘留所，或被判罚从事社区服务。

　　目前韩国警方已成立特别工作组，从8月28日开始展开为期七个月，针对深度伪造性犯罪等虚假视频案件的专项行动。由于“电报”服务器设在境外，且涉案人可随手删除淫秽影像和自己发布过的信息，侦查难度较大，韩国警方计划以市、道警察厅网络性暴力调查组为中心积极展开整治行动。

　　韩国《中央日报》援引美国安全服务机构“Security Hero”最新公开的《2023深度伪造技术现状》报告报道称，韩国被评为最容易受到深度伪造技术性剥削的国家。

　　据报道，去年7月至8月，对前10名深度伪造技术色情网站和YouTube、Daily Motion等85个深度伪造技术频道进行分析的结果显示，在深度伪造技术性剥削物中出现的人物中，53%是韩国人，排名第一。紧随其后的是美国（20%）、日本（10%）、英国（6%）。  

　　多家外媒也关注到，在数字性犯罪上有着诸多黑历史的韩国，又在面临深度伪造性剥削的打击。“长期以来一直在努力根除‘隐藏摄像机’偷拍性爱视频的韩国，正在与深度伪造图像潮流作斗争。”英国《卫报》称。

　　“N号房事件”余威未消，韩国女性又陷入“AI换脸恐慌”。据《韩民族日报》30日报道，韩国网络性暴力应对中心、韩国性暴力咨询所等84个女性团体发表声明，敦促政府制定“不被狭隘的法律和部门壁垒分割的，为数字市民的安全权利制定综合对策”。

　　这些团体表示，即便从2017年针对数字性犯罪就已制定了不少对策，但非法合成性犯罪仍在大量发生。她们要求女性家族部恢复支援和防止性暴力的预算、加强考虑到数字性犯罪特性的警方调查、制定网络平台限制政策。

　　国正义党前副党首、女权主义活动家裴福珠日前对法新社表示，她不信任尹锡悦政府可以有效解决“深度伪造”犯罪问题，因为这个政府拒绝承认韩国存在“结构性性别歧视”。这也是这些女性团体的呼吁之一，她们敦促尹锡悦政府全面修改“没有结构性性别歧视”的政策基调。