细思恐极,PimEyes 盗用逝者照片来训练面部识别算法

原文标题:《细思恐极!PimEyes 竟盗用死人照片来训练面部识别算法》

PimEyes 面部识别搜索网站,搜索一张照片就能暴露你的信息,如果想要删除照片,必须订阅会员,而且该平台在未获得知情权情况下公布他人照片,拿死人的照片来训练算法。

当你在 PimEyes 上搜索自己的照片时,你会看到很多自己的照片,还有跟你长得很像的人。

不过,这个工具在进行算法训练的时候,使用的并不是用户授权的照片,而是基于整个网络各个平台的照片,来进行面部识别。

所以在你的照片被识别后,搜索结果往往会出现很多色情网站的视频的截图。

不仅如此,该网站还被爆料,他们一直在盗用死人照片来训练算法。

死人都不放过

有些人死了,但是还在网络上活着。

Cher Scarlett 是一名软件工程师、作家。

最近,她在突然发现,她母亲的照片,早已去世的曾曾曾祖母,18 年去世的妹妹的照片都出现在 PimEyes 上。

所有这些照片都是她和她的家人自己上传到 Ancestry 上的图片,但是该网站在其条款和条件中公开禁止「从 Ancestry 的网站和服务中搜刮数据,包括照片,以及转售、复制或发布在 Ancestry 上发现的任何内容或信息。」

因此 Scarlett 感到很震惊,这不仅仅违反了 Ancestry 的政策,而且她已故的家人,根本不可能允许 PimEyes 用这些照片训练他们的算法。

这听起来和 Henrietta Lacks 的故事有异曲同工之妙:「不死的海拉细胞」几十年来一直被用于医学研究和药物开发,是几百年来最重要的医学成就之一。但这些研究其实是在她死后,未经她允许所开展的。在她不知情的情况下,她的细胞被研究、繁殖,甚至她的基因序列也被公开。

虽然这两件事不是同一个量级的。但是,你的隐私在你死后应该得到尊重,这一点是成立的。

数字权利组织 Access Now 的高级政策分析师 Daniel Leufer 称:「虽然 PimEyes 说不会直接通过他们的网站给你这个人的身份,但你点击一下就可以看到图片网站,网站上面确实就会出现你的名字。」

「一想到大家的照片,会在不知情或不同意的情况下,被录入面部识别软件的生物识别器中,我相信应该不会有人再轻易往社交媒体上发照片了。」Scarlett 感到很失望。

「我妹妹已经死了,她也不能起死回生,去让这个网站撤下自己的照片。」

Scarlett 这么说是有典故的,因为她之前就跟这个网站掰扯过撤照片的事情。

想要删掉自己的裸照,每个月充 29.9 刀

当 Scarlett 刚听说这个软件的时候,她想测试一下和自己长得像的名人有谁。

她发现自己和 Britney Spears 和 Kate Hudson 有些相似。

结果翻着翻着,她突然翻到自己十几年前被性虐待的照片。

这段经历曾经让 Scarlett 一度想要轻生,以至于身体的自我保护机制让她选择性忘记这段经历。

突然在网站上看到这些照片,她简直崩溃了,但是她强撑着去调查这些照片的来源,发现竟然需要支付会员费用才可以查看。

支付了以后,她发现这些照片竟然分散在各个色情网站上,甚至还专门带着有「虐待」、「窒息」、「折磨」等关键词。

更要命的是,要想清除这些照片,不仅要提交申请验明正身,还要每个月充值 29.9 美元,订阅他们的服务,这样才可以管理搜索结果,隐藏一些不想被看到的照片。

Scarlett 一直尝试清除照片,但是根本没办法永久消除。甚至她还买了 PimEyes 最贵的服务,都无济于事。网站表示,只要照片后续出现在了其它网站的链接上,还是会被显示出来。

也就是说,每个月订阅还不够,还得成为尊贵的年会员,定期申请清理,而且每次审批的时间也很久。

直至去年 4 月,她在社交网络上分享了自己的经历,PimEyes 才真正批准了她的删除请求。

调查你,跟踪你

PimEyes 可以从一个人的照片,找到他们在网上发表的其他照片,包括发在网站、博客、新闻、文章上各处的图片。

通过拼凑与这些图片相关的信息,博客、文章的文字,工作网站上的照片,想要调查你的人就可以找出你的工作地点,跟踪到你的住所。

「任何人的图像,包括儿童,都可以在互联网上被搜索和追踪。」

被家暴、虐待的人会丧失安全感;跟踪者也会悄无声息地做你甩不掉的尾巴,像恐怖电影一样;在求职、升学时,该工具也可以调出你所有的背景信息,让你毫无秘密可言。

人们指责 PimEyes 非法处理数百万英国公民的生物识别数据,认为它没有获得图像被分析者的许可。

然而,面对违反数据保护法的指控,PimEyes 却狡辩说,从技术上讲,不可能知道他们分析了多少英国公民的脸,相当于间接承认了没有获得授权这一点。

尽管平台称,PimEyes 不是为了监视别人而设计的,但是该平台并没有相关的措施来进行监管,因此人们也对于该平台的数据安全部门表示很不信任。

不过 PimEyes 在努力扭转风评。他们说这个工具可以帮助记者调查,而且表示他们正在与德国、意大利、英国和美国的执法部门和人道主义组织进行合作,协助打击儿童犯罪、人口贩运和恐怖主义。

而且,就像上文提到的,在事情被揪出水面之后,PimEyes 终于开始帮助女性,开始审批、删除未经同意的裸露色情照片,也算是积点德了。

参考资料:

  • https://futurism.com/pictures-dead-people-facial-recognition-algorithm

  • https://www.bbc.com/news/technology-63544169

本文来自微信公众号:新智元 (ID:AI_era)

Published by

风君子

独自遨游何稽首 揭天掀地慰生平

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注