据央视新闻报道,近日,韩国曝出“深度伪造”(Deepfake)事件,被认为是采用新犯罪手段的“N号房”案件重现。深度伪造技术,即使用人工智能生成的技术,将个人的声音、面部表情及身体动作拼接合成虚假内容。韩国网民在即时通讯应用“电报”(Telegram)上发现大量聊天群,其中有成员创建和分享露骨的色情“深度伪造”图像,对象涉及未成年女孩。
连日来,有多位韩国女性(下称“韩女”)在中文社交平台发帖求助。有微博用户发布消息称:“在韩国发生‘N号房’事件时,几乎没有加害者被捕,也没有披露加害者的名单。 ”因为害怕此次事件也会安静地过去,这名用户因此发帖,希望中国朋友把这件事传播出去。
恩敏(化名)今年20岁,来自韩国大田市。8月26日起,她通过社交平台“小红书”发出求助帖,希望相关事件可以得到网友的关注。她在30日接受澎湃新闻(www.thepaper.cn)采访时表示,相关事件发酵以来,自己与其他韩国网友一样,也曾尝试在包括X(原推特)在内的社交平台发文求助,但帖文屡次被平台警告后被删除。
“我想通过英语、日语和中文向韩国之外的其他地区传播这个消息,这也是为什么我到小红书发帖的原因。我希望能广泛传播这件事。施暴者(据传)有22万,而韩国有很多来自中国的留学生和游客,我希望他们(在韩中国人)能更加小心。”
“求助帖屡次被删”
不久前,有韩媒和社交平台用户在“电报”(Telegram)群组平台发现了大量创建并分享深伪色情图像的聊天群组,群成员会在群组内上传他们认识的人的照片——包括同学、老师甚至未成年女孩,并将这些照片制作成露骨的深伪图像或视频。
连日来,包括恩敏在内的多名韩国女性在中国社交平台发帖求助,表示希望在广泛传播此事之余,也能促使韩国当局尽快将加害者绳之以法。恩敏曾尝试在Naver等韩国网民较常使用的社交平台发帖求助,也得到了不少本国网友的支持。然而,帖文发出后很快就会因Telegram群组成员的举报导致相关文章被删,而平台的删文理由一般是“虚假内容”。
“我们之所以怀疑举报者是Telegram 群组的施暴者,主要是因为只要我发布帖子,群里就会迅速出现类似‘举报那个人’之类的内容,之后我的帖子就会被举报并被删除。”恩敏说道。
韩国采用深伪技术的性犯罪案件数量每年都在增加。据韩国警方报告,今年前七个月内已发生297起网络色情深伪犯罪案件,高于去年的180起,几乎是2021年首次记录该数据时的两倍。值得注意的是,今年发生的297起案件中,有131起的犯罪嫌疑人为青少年。
也有观点认为,实际问题远比官方数据所呈现的“更为严重”。英国《卫报》报道称,涉事的某个Telegram聊天群组的成员多达22万,犯罪者使用Instagram等社交平台保存或截取受害者的照片,然后通过深度伪造技术创建和分享色情图像。韩国媒体称,受害者包括大学生、教师和服役人员。
部分韩女网友在微博发出帖文后,“N号房2.0”、“韩国deepfake”等词条迅速攀上平台热搜榜。此外,也有中国网友将事件的来龙去脉制作成视频发布在社交平台X,以示对发声韩女的支持。
恩敏喜欢中国文化和电视剧,因此从今年开始尝试使用包括微博和小红书在内的中国社交平台。然而,她并不擅长中文,只能借助翻译工具与网友交流。恩敏强调,自己之所以选择在中国社交平台发布求助帖,也是希望能扩大事件的影响范围,并提醒在韩的中国留学生和游客注意人身安全。令她意想不到的是,这些发声得到了不少中国网友的善意回应。
“昨天(8月29日)事件上了热搜,我也收到了很多网友们的鼓励,他们让我保护好自己,不要泄露自己的照片和资料,也给了我很多建议,我很感激。实际上,很多韩国女性很支持我们借助微博和小红书等社交平台传播此事。”
“希望惩罚犯罪者、严加管制社交平台”
韩国教师教育工作者工会表示,他们已经获悉部分在校学生涉嫌制造深伪色情视频的情况,已要求教育部进行调查。连日来,韩国女权团体和部分韩国流行文化爱好者(编者注:KPOP粉丝)在社交平台发声,希望曝光此类群组,并呼吁当局立即采取行动。
尽管此前已有多名嫌犯已受到惩罚,但刑罚通常不严重。韩国法律规定,成年人如果制作、编辑并意图传播他人的虚假视频、音频或照片内容,导致对方“感到羞耻”且“违背对方意愿”,最高可被判处五年监禁或罚款最高达5000万韩元(约合26万人民币)。然而,《韩民族日报》对46份与深伪视频相关的法院判决进行分析后报道称,在18起仅因传播深伪色情视频而被起诉的案例中,只有一人被判处监禁,15人被判缓刑,另有两人被罚款。此外,当局在执法中存在一定的灰色地带:当局只能在犯罪者“存在传播目的”的前提下才能对其处以刑罚。因此,仅持有此类深伪色情作品的人并不一定会得到惩处。
面对日益增加的深伪色情犯罪案件,韩国政府和执政党准备提高此类犯罪行为的最高刑期,即从当前的五年提高到七年。据韩国广播公司(KBS)报道,在8月29日举行的政府简报会上,执政党国民力量政策委员会主席金相勋表示,调整后的刑罚将与此前针对间谍相机(spycam)偷拍行为的最高刑罚一致。此外,考虑到许多深伪色情案件的嫌犯为10岁至14岁的未成年人,并且该群体在现有法律框架下将免于刑事起诉,韩国政府将考虑下调最低刑事责任年龄。
早在2020年“N号房”事件发生后,恩敏开始关注针对女性的性暴力事件。在她看来,政府对社交平台的规制存在漏洞,这是深伪色情视频事件发生的主要原因。
“犯罪分子很多都是未成年人,虽然(据传)共有22万名施暴者,但被抓的仅有10人。由于Telegram还没有给出犯罪者的信息,所以抓到他们并不容易。”恩敏说道。
韩国《论坛快报》8月30日报道称,首尔妇女协会与倡导少数民族权利的大学生团体于8月29日下午在首尔江南站附近举行了紧急新闻发布会,要求政府和国民议会立即采取行动,打击网络性犯罪行为。此外,首尔妇女协会和其他组织成立了一个联合行动联盟,并计划从8月30日起,每周在江南站附近举行抗议活动。
“我们不能让施暴者认为他们可以逍遥法外。”让恩敏不能接受的是,目前,这些犯罪者还留在Telegram群组里面,这些群组也依然在正常运行。
“我希望所有施暴者都被抓获,我希望帮助消除受害者所遭受的心灵创伤。我们现在也坚持在X上发声,并计划在下个月(9月)通过现场抗议活动(卡车抗议和上街游行)向外界发出我们的声音。”恩敏说道。