欧盟 AI 监管太严?麻省理工科学家为英语测试网站站台

7 月 26 日消息,据外媒报道,麻省理工学院的科学家表示,欧盟对人工智能的监管提案( EU proposal to regulate AI)将会影响 Duolingo 的技术创新。

Duolingo 是可供免费下载的学习外语的应用程序,目前已成为世界上学习第二语言最流行的方式。该公司在上周的 IPO 中高达 34 亿美元。

欧盟在今年四月祭出了史上最严的人工智能监管提案,按照风险的高低,将人工智能应用场景分为“不可接受、高、有限、极小”四个风险等级,以保护欧盟民众的安全和正当权利不受侵害。此次的 Duolingo 被评为了高风险等级(high-risk),原文作者认为这会影响企业对类似的教育行业(机构/技术)的投入。

一、欧盟认为该程序存在高风险

Duolingo 中有一个功能是英语测试,使用该功能需要使用到人工智能系统。考生不需要注册,仅需要一个带有摄像头的联网设备,在经过一个小时的考试之后就能完成测试。测试可以防止欺诈行为(摄像头的作用),并评估(考生的)读写能力、会话和理解能力。该英语测试会在 2 天内出结果,而且成本不到 50 美元。

欧盟的一项提案将使用人工智能“评估参加教育机构一般测试的考生”的系统归入高风险的类别。这个标签适用于在测试中使用人工智能的情况,例如个性化测试(即时生成适合考生技能水平的问题)和评分。这意味着 Duolingo 将会受到该提案的影响,有可能募资减少。

二、高风险标签阻碍了市场投资

在欧盟的人工智能监管提案通过后,高风险人工智能系统的供应商(如果想进入市场)将必须根据欧盟提案中的规则,采取一系列的步骤:数据和数据治理、透明度、监督、稳健性、准确性和安全性等。该提案涵盖了对高风险人工智能系统的 10 页要求及其供应商应尽的义务。

原作者认为,在高风险应用领域,基本上所有的科技企业家和投资者都会抵制(反感)这些昂贵且耗时的要求,并将他们的精力投入到其他的应用领域中。在此情况下,欧盟将在重要活动等方面的技术创新减少。但欧洲民众也都知道,人工智能需要长久的研究时间(人工智能的研究不是一蹴而就的)。这将会影响欧洲部分企业的竞争力。

三、让门外汉也能创新

越来越强大的科技创新影响了民众的生活,甚至有些可能已经“越界”。一所学校认为,某些技术可能过于强大(影响了欧盟民众的安全),因此需要大量的预先规划(讨论)和持续监督。这是“上游治理(upstream governance)”方法,欧盟提议的人工智能提案就是一个典型的例子。

另一种方法通常被称为“未授权的创新(unauthorized innovation)”。该方法允许即使是小型的创业团队或者预算有限的门外汉(outsider)都可以进行尝试创新并改进产品(比如一开始的 Duolingo)。

原作者认为这是推动创新的最佳方式,让创新者的发挥空间受限或者要求他们承担前期的高昂成本并不是个好主意,这将导致(创新)的步伐放缓,成功的案例也有可能变少。

结语:严管不利于科技创新

随着欧盟的《通用数据保护条例(General Data Protection Regulation)》于 2018 年 5 月生效,谷歌的市场份额有所增加,企业在欧洲的投资有所减少。原作者分析该现象后认为,欧盟对人工智能进行监管提议将会阻碍欧盟的科技创新。

科技是在不断发展的,有些时候过于强大导致了民众对于科技的抗拒心理。但科技创新发展和民众的安全不应该是二分法,如何取得两边的平衡点将是未来治理的关键。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注