曼哈顿地区检察官白艾荣（Alvin Bragg）办公室14日（周一）宣布查封12个非法网站，涉嫌使用AI利用1200名受害者图像生成色情图像和视频进行贩卖。
白艾荣强调其办公室正在继续追查类似非法行为，并敦促受害者拨打网络犯罪局电话212-335-9600提供线索，“1200名受害者的面部和身体照片被盗用，并被制作成非法色情内容发布在12个不同的网站上——这一切都是在他们不知情或未经同意的情况下发生的。我们已根据法院命令查封了这些网站。这些骇人听闻的侵犯隐私行为会伴随受害者进入他们的职业生涯和个人生活，并对他们的精神和情感健康造成巨大的伤害。我要明确指出本办公室绝不容忍任何形式的性剥削，也绝不会坐视企业通过发布和传播未经同意的性图像和视频（无论是否由AI生成）牟利。”
据称，被查封的12个网站的运营人员运用AI学习真人容貌、声音和动作，将约1200名真实人物的现有照片和视频，生成或转换成看似高度逼真的色情图像和视频。
通过该技术能够高度伪造图片及影像，以假乱真使得观看者相信视频中的人物真的作出了其现实中从未有过的言行。随后这些不法分子利用相关网站传播、发布和销售这些视频以及其他类似的未经同意的AI生成的非自愿性侵犯内容（NCII），并明确将其宣传为深度伪造色情内容。
本案中涉及的约1200名受害者绝大多数是女性，且主要为公众人物，包括演员、政治家、运动员、音乐家、社会正义倡导者和社交媒体影响者。
虽然至今还没有与相关非法网站有关的人员被拘留，但白艾荣表示，一旦相关涉案人员被抓获并定罪，其可能面临长达一年的监禁。
目前曼哈顿地区检察官仍在对这些网站及其他相关网站进行调查，并将继续监控这些网站，以防止其使用不同的域名再次恢复运营。
