北京时间 2 月 7 日，欧盟委员会宣布，根据更新现有立法以跟上技术发展步伐的计划，人工智能生成的图像和其他形式描绘儿童性虐待（CSA）的深度伪造行为在欧盟可能会被定为刑事犯罪。
欧盟还提议将直播儿童性虐待行为定为新的刑事犯罪。根据该计划，拥有和交换“恋童癖手册”也将被定为犯罪行为 —— 这是欧盟表示旨在加强预防 CSA 的更广泛措施的一部分，包括提高对网络风险的认识，并给予支持给受害者以举报犯罪行为（包括赋予他们获得经济赔偿的权利）。
在提交提案前，委员会还进行了一项影响评估，认为儿童上网人数的增加和 “最新的技术发展” 为 CSA 的发生创造了新的机会。成员国法律框架的差异可能会阻碍打击虐待行为的行动，故该提案旨在鼓励成员国加大对“提高认识”的投入，和“减少网络儿童性虐待和性剥削普遍存在的有罪不罚现象”，并希望改进目前“有限的”预防 CSA 和援助受害者的工作。
早在 2022 年 5 月，委员会就提交了一份单独的 CSA 相关立法草案，旨在建立一个框架，规定数字服务必须使用自动技术来检测和报告其平台上流传的现有或新的儿童性虐待材料（CSAM），并识别和报告针对儿童的诱拐活动。
事实证明，CSAM 扫描计划极具争议性，它继续分裂着议会和欧盟理事会的立法者，同时也引发了人们对欧盟委员会与儿童安全技术游说者之间关系的怀疑，并给欧盟行政部门带来了其他尴尬问题，比如为推广该提案而进行的微目标广告宣传在法律上就存在问题。
在有争议的私人信息扫描计划提出后不到两年的时间里，人们对深度伪造和人工智能生成图像的风险的关注度也在大幅上升，包括担心这种技术被滥用于生产 CSAM，以及担心这种合成内容会使执法部门在识别真正受害者时面临更大的挑战。因此，人工智能生成技术的病毒式蓬勃发展显然促使立法者重新审视相关规则。
与 CSAM 扫描计划一样，欧盟议会和理事会的共同立法者将决定提案的最终形式。不过今天的 CSA 打击提案可能会比信息扫描计划产生的分歧要小得多。因此，当另一项计划仍处于停滞状态时，该计划更有可能会获得通过。
根据委员会的说法，一旦就如何修订现行的打击 CSA 指令达成一致，该指令将在欧盟官方公报上公布 20 天后生效。届时，该法案将会对预防人工智能产生的儿童性虐待和对受害者的保护提供重要保障。