当前，全球数字经济正逐步走向以人工智能（AI）为核心驱动力的智慧经济新阶段。人工智能技术广泛应用于各行各业，但在为经济社会发展注入新动能的同时，也带来监管困难。为此，2021年4月，欧盟发布《人工智能法》（以下简称《法案》）提案，提出统一的人工智能监管规则，旨在限制人工智能的潜在风险和不利影响。从国家法律层面发展人工智能技术。 , 赋能人工智能技术，在欧洲价值观和基本权利的基础上，进一步加强技术应用创新，使欧洲成为值得信赖的全球人工智能中心。作为人工智能领域的“GDPR”2，《法案》是全球首部人工智能控制法。对其内容和创新的研究，对我国人工智能等数字技术治理方案的制定具有重要的参考意义。

1.该法案的核心内容

它对人工智能系统进行了广泛的定义，并设定了人工智能规则的域外适用性。

一方面，《法案》定义了人工智能系统、人工智能系统供应链中涉及的相关环节，以及不同类型的人工智能数据等相关要素。监管对象（AI系统）的定义具有极强的广泛性，几乎涵盖了所有使用传统和新兴AI技术的系统（正常使用AI技术的互联网服务均受监管），与受监管的广义定义一致GDPR 中的个人数据。

另一方面，《法案》明确了所有在欧盟市场上投放和使用人工智能系统及相关服务的国内外供应商、服务提供商和公共服务用户提供商，只要他们的人工智能系统影响欧盟，欧盟公民将受到《法案》的约束，从而确保人工智能规则的域外适用性。

对不同应用场景的人工智能系统进行风险分级，提出各自的监管路径。该法案根据不同应用场景的风险差异，将人工智能系统划分为“不可接受、高、有限、极小”四个风险等级，对不同等级的风险实施不同等级的监管，从而建立基于风险的方法。基本的四级治理体系。

首先，对基本人权和社会公平构成明显威胁的人工智能系统被认为是“不可接受的”。

二是将人工智能系统在可能危及公民人身安全和基本权利的场景中视为“高风险”。

三是将具有特定透明度义务的人工智能系统视为“有限风险”。

第四，提供简单工具功能的人工智能系统被认为是“最小风险”。

具体在该领域提供“高风险”人工智能系统的公司提出“全生命周期”多重合规要求，以增强人工智能产品和服务的透明度。 《法案》聚焦“高风险”人工智能系统的开发、部署和应用，提出了全生命周期的一系列规范，要求企业和其他人工智能系统供应商履行以下透明度义务：

在人工智能系统开发过程中，建立风险管理体系，进行数据质量检查，设计用户通知和日志追溯功能，构建网络安全保障能力，准备监管审计的技术信息文件。

二是在人工智能系统首次运行前或系统升级迭代后及时进行合规性评估，并在其建立和管理的大数据库中进行记录登记。欧盟委员会。

三是在AI系统使用过程中建立与AI风险等级相匹配的售后监控体系和人工监督机制，对AI应用中的风险进行监控和预警，并在发现可能存在的风险后，由召回系统处理并通知相关监管机构。

第四，当人工智能系统出现故障或发生严重事故时，应立即采取补救措施，并在半个月内向有关监管部门报告。

设立专门的人工智能监管机构，加大监管执法力度。关于人工智能监管的主体，《法案》提出通过成立欧洲人工智能委员会，以及制定和颁布后续人工智能标准，促进人工智能新规则的实施和完善，并建立沟通机制。国家监管机构在欧盟层面协调人工智能监管政策的渠道，以维护人工智能监管体系的统一性。

第二。法案亮点分析

与GDPR的有效对接，进一步明确了人工智能系统的数据治理要求。数据和算法是人工智能技术的核心要素。 AI系统通过数据馈送优化算法模型。该算法模型还应用于对个人数据的深度挖掘，实现基于学习的智能服务。

构建可扩展的法律框架，弥补技术监管滞后的短板。面对人工智能等新兴数字技术的快速发展，法律适用的持续时间往往很短。新制定的法律法规可能不会很快适用于实际情况，难以实现对人工智能技术快速迭代的全面监管。人工智能领域 中国法律制度的滞后现象突出。

对人工智能系统实行分类分级监管，构建系统的人工智能治理体系。人工智能技术具有跨学科、前沿知识整合等复杂属性。不同的人工智能系统在同一个场景下会导致不同类型的风险，同一个人工智能系统在不同场景中的应用也可能带来不同类型或级别的风险。

文章来源：《数字技术与应用》 网址: http://www.szjsyyyzz.cn/zonghexinwen/2021/0727/1519.html