欧洲制定计划以促进数据重用并规范“高风险” AI

 
欧盟立法者已经提出了针对欧盟新数字战略的第一批提案，旨在推动所有行业和部门的数字化，并使欧盟委员会主席乌尔苏拉·冯·德·莱昂(Ursula von der Leyen)称之为“适合欧洲的欧洲”。数字时代’。
它也可以概括为“人工智能的争夺战”，委员会热衷于消除汇集海量欧洲数据集的障碍，以便为新一代数据驱动服务提供动力，以此作为增强区域竞争力的战略。中美
推动欧盟实现技术主权，是冯·德·莱恩(von der Leyen)针对27个成员国制国家集团的数字化政策计划的关键内容。
她介绍了她最新的数字战略并将在今天布鲁塞尔发表新闻稿，她说：“我们希望数字化转型为我们的经济提供动力，我们希望在数字时代找到欧洲解决方案。”
最重要的建议是：
人工智能
诸如健康，警务或运输等“高风险” AI系统的规则要求此类系统“透明，可追溯并保证人为监督”。
要求使用无偏见的数据来培训高风险系统，以便它们“正确执行，并确保尊重基本权利，尤其是不歧视”。
消费者保护规则，因此管理机构可以“测试和验证”算法使用的数据，其方式类似于现有规则，允许对化妆品，汽车或玩具等产品进行检查。
关于可以远程使用生物特征识别的情况的“广泛辩论”是合理的。
针对低风险AI应用的自愿性标签计划。
提议建立欧盟治理结构以确保遵守规则的框架，并避免整个集团的分裂。
数据
一个监管框架涵盖了数据治理，企业之间，企业与政府之间以及政府内部的数据治理，访问和重用，以创建数据共享的激励机制，委员会表示将建立“关于数据访问和使用的实用，公平和明确的规则，欧洲的价值观和权利，例如个人数据保护，消费者保护和竞争规则。”
通过开放“高价值数据集”以使其可重复使用以促进创新，从而推动公共部门数据的更广泛使用。
支持云基础架构平台和系统以支持数据重用目标。欧盟委员会表示，它将为欧洲高影响力项目的投资做出贡献，这些项目涉及欧洲数据空间以及可信赖且节能的云基础架构
建立欧洲数据空间的部门特定行动，这些数据集中于特定领域，例如工业制造，绿色交易，移动性或健康
完整的数据策略建议可以在这里找到。
委员会关于AI的“卓越与信任”白皮书就在这里。
下一步，委员会将就该计划获得反馈，因为它将启动有关这两项提案的公众咨询。
最终草案定于今年年底发布，之后，各个欧盟机构将有机会参与(或废除)该计划。因此，有多少政策可以长期生存尚待观察。
科技造福
在冯·德·莱恩(von der Leyen)发表声明后的新闻发布会上，负责数字政策的委员会执行副总裁Margrethe Vestager和负责内部市场的专员蒂埃里·布雷顿(Thierry Breton)讨论了委员会关于“塑造欧洲数字未来”的宏伟计划的一些细节。
Vestager说，数字政策计划旨在定义我们如何“以一种为我们所有人服务的方式”塑造欧洲的数字未来。
她补充说，该策略旨在解锁对“更多数据和高质量数据”的访问，以推动创新并支持更好的公共服务。
她还说，该计划总体上是在拥抱AI在管理风险的同时提供的可能性，并补充说：“显然，重点是建立信任而不是恐惧。”
她指出，委员会今天宣布的有关人工智能和数据的两项政策是更广泛的数字和产业战略的一部分，尚待提出其他建议。
她说：“当我们组装拼图时将出现的图片应说明三个目标。” “首先，技术应该为人们服务，而不是相反。目的是第一位，最重要的是技术的开发，部署和采用必须朝着同一个方向努力，才能在我们的日常生活中产生真正的积极变化。
“第二，我们需要公平竞争的经济—完整的单一市场，各种规模的公司都可以平等竞争，而从车库到扩大规模的路要尽可能短。但是，这也意味着不能由少数在位者拥有的市场力量来阻碍竞争。这也意味着经济是消费者可以认为理所当然的，他们的权利受到尊重，利润在其制造地被征税”
第三，她说委员会的计划将支持“一个开放，民主和可持续的社会”。
“这意味着一个社会，公民可以控制他们提供的数据，数字平台对其所提供的内容负责。这是最基本的事情—在我们使用新的数字工具，使用人工智能作为工具的同时，我们建立了一个基于我们基本权利的社会”，她补充说，并遵循了即将出台的民主行动计划。
Vestager表示，数字技术还必须积极推动绿色转型。他指出欧盟承诺到2050年实现碳中和。数字化，卫星，GPS和传感器数据对于实现这一目标至关重要。
“绿色过渡和数字过渡比以往任何时候都更加紧密地联系在一起。”
关于数据包，布雷顿表示，委员会将启动欧洲和工业云平台联盟，以激发人们对构建下一代平台的兴趣，他表示，在整个欧盟范围内实现海量大数据共享(利用5G和边缘计算)将是必要的。
他说：“我们希望动员多达20亿欧元，以建立和动员这一联盟。” “要运行这些数据，您需要具有特定的平台……大部分数据将在本地创建并在本地处理-这要归功于5G关键网络部署，而且还要在边缘设备本地进行。我们预计，到2030年，地球上将拥有500BN连接的设备……当然，所有设备都将非常迅速地交换信息。当然，在这里我们需要有特定的小型云或边缘设备来存储此数据，并与嵌入在此之上的AI应用程序进行本地交互。
“并且相信我，对这些平台的需求完全不是您在个人b2c平台上看到的需求……然后，我们当然当然到处都需要安全性和网络安全性。您当然需要等待时间。您需要以毫秒为单位进行响应，而不是十分之一秒。那是完全不同的基础架构。”
他补充说：“我们在欧洲拥有一切才能赢得这场战斗。” “因为没有人比我们拥有这场斗争和基础-工业基础的专业知识。这就是为什么我们说也许明天的赢家不会是今天或昨天的赢家。”
可信赖的人工智能
关于人工智能，Vestager表示，该计划的重点是“建立信任”-通过双重推动来创建她所谓的“卓越生态系统”，而另一个重点是信任。
第一部分包括委员会推动刺激资金，包括研发和对研究的支持，例如通过提高技能。她指出：“我们需要很多人才能使用AI。”她说，“邀请”中小型企业至关重要。
基于信任，该计划旨在利用风险来确定涉及多少监管，最严格的规则被置于对“高风险”人工智能系统的模仿上。 Vestager说：“那可能是AI处理基本价值时，可能是生死攸关的情况，任何可能造成实质性或非物质性伤害或使我们遭受歧视的情况。”
在此范围内，委员会的方法将集中于可能存在此类风险的行业，例如能源和招聘。
如果将AI产品或服务标识为存在风险，则建议采用强制执行机制以在产品投入使用之前测试该产品是否安全。这些提议的针对高风险AI系统的“合格性评估”包括Vestager所说的许多义务，这些义务是基于欧盟AI高级专家组的建议而制定的，去年该专家组提出了一系列AI政策建议。
提案的这四个要求是：1)应当使用“尊重欧洲价值观和规则”的数据对AI系统进行培训，并保留此类数据的记录; 2)人工智能系统应“向用户提供有关其目的，功能以及局限性的清晰信息”，并且当用户与人工智能而不是人类交互时，对用户也应清楚; 3)人工智能系统必须“在技术上强大且准确，以便值得信赖”; 4)他们应始终确保“适当程度的人员参与和监督”。
显然，在实践中如何衡量和维护(广泛执行)这样的广泛需求存在很大的疑问。
如果未将AI产品或服务识别为高风险，Vestager指出，仍然存在监管要求，例如开发人员需要遵守现有的欧盟数据保护规则。
委员会主席冯·德·莱恩(von der Leyen)在新闻稿中强调了AI如何为社会带来一系列好处的许多示例-从“更好或更早”地诊断癌症等疾病到帮助她并行推动集团成为碳到2050年达到中性，例如通过启用精确农业和智能供暖—强调此类应用程序依赖于对大数据的访问。
人工智能与大数据有关。”她说。 “数据，然后是数据。我们都知道，拥有的数据越多，算法就越智能。这是一个非常简单的方程式。因此，访问那里的数据非常重要。这就是为什么我们要为我们的业务以及研究人员和公共服务提供更好的数据访问权的原因。”
“我们今天收集的大多数数据甚至从未使用过一次。她说，这根本不可持续。 “我们收集的这些数据中蕴藏着大量宝贵的想法，潜在的创新，尚未释放的潜力，因此我们必须遵循的原则是在欧洲，我们必须提供数据空间，您不仅要存储您的数据，数据，还可以与他人共享。因此，我们希望创建欧洲数据空间，企业，政府和研究人员不仅可以存储他们的数据，还可以访问他们进行创新所需的其他数据。”
她也对AI监管的需求留下了深刻的印象，包括要防止算法偏差的风险-她说“我们希望公民信任新技术”。 “我们希望这些新技术的应用值得我们公民的信任。这就是为什么我们正在倡导一种负责任的，以人为本的人工智能方法。”
她说，对高风险人工智能的计划限制将适用于医疗保健，招聘，运输，警务和执法等领域，甚至可能适用于其他领域。
她说：“对于那些至关重要的人类利益和权利受到威胁的领域，我们将格外谨慎。”人工智能必须为人民服务。因此，人工智能必须始终遵守人民的权利。这就是为什么一个人必须始终控制关键决策的原因，所谓的“高风险AI”(这是可能会干扰人们权利的AI)必须在进入我们的单一市场之前进行测试和认证。”
“今天的信息是，对于欧洲来说，人工智能在欧洲是一个巨大的机会。我们确实有很多东西，但我们必须释放这种潜力。我们希望在欧洲进行这项创新。”冯德莱恩补充说。 “我们希望鼓励我们的企业，研究人员，创新者，企业家发展人工智能，我们希望鼓励我们的公民对在欧洲使用人工智能充满信心。”
迈向尊重权利的公共数据空间
多年来，欧洲委员会一直在努力建立自己称之为“数据经济”的东西，将其插入其现有的数字单一市场战略以提高区域竞争力。
其目的是消除单一市场中共享非个人数据的障碍。该委员会此前一直在制定法规以禁止大多数数据本地化，并制定措施鼓励公共部门数据的重用和开放对科学数据的访问。
医疗保健数据共享也一直在眼前，其政策旨在促进​​围绕电子健康记录的互操作性，并且它一直在推动实现更多的私有部门数据共享-b2b和企业对政府。
它在2018年写道：“每个组织都应该能够在欧盟的任何地方存储和处理数据。”该组织还称该计划为“欧洲共同数据空间”。 Aka“具有规模的无缝数字区域，将能够基于数据开发新产品和服务”。
致力于释放非个人数据流的目的是为了补充欧盟关于保护个人数据的长期规则。通用数据保护条例(GDPR)于2018年生效，在处理个人信息方面加强了欧盟公民的权利-更新和加强了先前的数据保护规则。
欧盟委员会将GDPR的有关欧盟数字标准的对话导出到全球受众的优点，使GDPR成为一个主要的成功案例。
但是可以公平地说，GDPR的后台执行仍在进行中，大约有21个月了，许多重大的跨境投诉都与技术和广告技术巨头如何处理人的数据有关，仍然摆在爱尔兰数据台上保护委员会，跨国公司由于有利的公司税收安排而倾向于将其总部设在欧盟。
欧盟委员会同时鼓励鼓励发展人工智能，这有可能给GDPR施加更大的压力-私营部门和公共部门都迅速意识到，模型制作的价值已被锁定在公民数据中。
在欧洲各地，已经有许多公司和/或州政府致力于构建用于医疗保健的个人数据驱动型诊断AI的例子。使用机器学习对福利索赔人进行风险评分;并以面部识别作为执法的安全辅助手段，举了三个例子。
随着这种发展，也很快引起了争议。根据GDPR并根据欧盟的基本隐私权以及《欧洲人权公约》的规定，包括比例性和同意合法处理人的数据的问题等问题。
仅在本月，荷兰一家法院才下令该州停止使用黑盒算法来评估基于人权理由的福利索赔人的欺诈风险，因为该系统运作方式缺乏透明度，因此可控性“不足”。
冯·德·莱恩委员会(von der Leyen Commission)于12月接受了为期五年的任务，尽管有人明确表示它打算加强欧盟利用数据和机器学习技术的能力，但对如何应用AI的权利仍然充满了关注。 -着眼于经济收益。
欧盟委员会主席承诺在头100天内发布监管AI的提案-她说她希望建立一个欧洲框架来指导应用程序，以确保有道德地使用强大的学习技术并为公益目的。
但是上个月泄露的监管AI计划草案表明，它甚至不打算暂时禁止使用面部识别技术，而是倾向于对现有规则和部门/应用程序特定的风险评估和要求进行调整。
显然，委员会高层对技术领域需要多少政策干预存在着不同的观点。
布雷顿此前曾表示反对监管人工智能-就在他被确认被任命为“不会成为监管人工智能的声音”之前告诉欧盟议会。
尽管Vestager一直在公众支持制定如何应用AI的框架方面一直是坚定的，但在欧盟议会听证会上她谈到了人们信任的重要性，欧洲在欧洲拥有自己的风味，必须“服务于人类”并具有“目的”。
她说：“我认为，没有道德准则，我们就不可能成为世界领导者。” “我想，如果我们只是说不让我们像世界其他地方那样做，那就会输掉它–让我们汇集所有人的所有数据，无论它们来自何处，而只是投资我们所有的钱。”
同时，Vestager表示愿意在规则的范围以及如何制定这些规则上务实-强调速度的必要性，并同意委员会将“非常谨慎，不要过度监管”，表明她d接受最低要求以启动并运行规则。
今天的提议避免采用更严格的AI规则，例如在公共场所禁止面部识别。在今天的新闻发布会上，Vestager在生物识别AI技术上将某些现有用途描述为“无害的”，例如解锁电话或用于自动边界闸门;而她强调了与使用远程生物识别技术有关的权利风险方面的差异，例如面部识别。
她说：“委员会通过这份白皮书就可能发生的具体情况展开辩论，如果有的话，这可能证明在公共场所使用此类技术是合理的。”她强调说，“任何”一词都受到了重视。
欧盟委员会鼓励欧盟公民在Facebook，Twitter和LinkedIn上的欧洲标准时间17.45 CET进行实时问答，提出有关Vestager明天将要回答的数字化战略的问题-使用标签
平台责任
欧洲委员会在数字政策方面还有更多的东西要制定，其中一项是《数字服务法》，旨在更新互联网平台周围的泛欧责任规则。
该提议定于今年晚些时候提出，两位专员今天都说，细节尚待确定。委员会将提议规则以更严格地监管在线内容平台的可能性已经使像Facebook这样的内容农业广告技术巨人加快了其分拆周期。
在今天的新闻发布会上，布雷顿表示，他将一直努力推行他所谓的“共享治理”，但他多次警告说，如果平台不同意可接受的前进方式，“我们将必须进行监管” –表示欧洲社会不应该这样做。适应平台，但让他们适应欧盟。
“我们将在未来八个月内做到这一点。是肯定的而且每个人都知道规则，”他说。 “当然，我们正在与这些平台进行对话，就像任何对话一样，我们尚不完全清楚结果会是什么。到最后，我们可能会发现一个好的，一致的联合策略，它将满足我们有关平台职责的要求。顺便说一句，这就是为什么当我个人见面时，我总是更喜欢共享治理。但是我们非常清楚，如果它不起作用，那么我们将不得不进行监管。”