普林斯顿大学学者称苹果 CSAM 筛查系统存隐患,因为他们做过类似项目

8 月 23 日上午消息,近期普林斯顿大学的两位学者表示,他们认为苹果公司儿童性虐待照片(简称 CSAM)筛查系统具有一定危险性,因为他们曾构建过一个类似的系统。

此前,苹果公司出于保护儿童免受色情内容侵袭,宣布推出三项保护政策。包括:机器筛查 Messages 信息,当孩子收到色情图片时,图片会变得模糊,并且 Messages 应用程序会显示一条警告;儿童性虐待内容(简称 CSAM)检测,该功能让苹果检测存储在 iCloud 云端照片中的这类图像特征信息,如果确定有此类图像,苹果会向执法部门报告;Siri 和搜索功能改进,人们可询问 Siri 如何报告儿童性虐待内容或性剥削,Siri 将告诉用户在哪可以汇报给有关部门。

普林斯顿大学这两位学者说,他们曾经的一个项目工作原理与 Apple 的方法完全相同,但他们很快发现了明显的问题。

助理教授 Jonathan Mayer 和研究生研究员 Anunay Kulshrestha 在《华盛顿邮报》的报道中提到,他们与苹果有着同样的善意目标:

“我们的研究项目始于两年前,作为一个实验系统,用于识别端到端加密在线服务中的 CSAM。作为安全研究人员,我们知道端到端加密的意义,它可以保护数据免受第三方访问。但我们也对 CSAM 在加密平台上激增感到震惊。而且我们担心,在线服务不愿意在没有额外工具来对抗 CSAM 的情况下加密

我们试图探索一种可能的中间立场,即在线服务可以识别有害内容,同时保留端到端加密。这个概念很简单:如果有人分享了与已知有害内容数据库相匹配的内容,该服务就会收到警报。如果一个人分享了无关的内容,该系统就不会筛查到。人们无法阅读数据库或了解内容是否匹配,因为这些信息可以揭示执法方法并帮助犯罪分子逃避检测。”

在停止项目之前,他们已经做出一个工作原型:

经过多次错误的启动,我们构建了一个工作原型。但是我们遇到了一个明显的问题。

我们的系统可以很容易地重新用于监视和审查。筛查设计不限于特定类别的内容。例如,外国政府可以强制要求提供服务,将那些分享不受欢迎的政治言论的人找出来。

两人表示,他们对苹果公司决定推出这项服务感到困惑,因为目前未能妥善解决他们提出的风险:和我们一样,Apple 的动机是保护儿童。它的系统在技术上比我们的更高效、更有能力。但是我们很发现,对于我们提出的难题,Apple 几乎没有答案。

这也是苹果这些动作引发争议的原因:虽然他们表示不会允许这种滥用,但政府可以依法强制公司这样做。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注