欧盟AI法案中的标准化需求和制定流程简述

AI资讯动态3年前 (2023)发布 leif

欧盟的人工智能法案为在欧洲的人工智能系统的开发和应用建立了一个以风险为基础的监管架构。在这个法案中，欧盟委员会可以要求欧洲标准化组织制定支持“安全可信”人工智能的欧洲标准。

各欧洲标准化组织（简称“ESOs”）负责在欧盟内制定欧洲标准。这些标准在协调实践和确保成员国间的一致性方面发挥着至关重要的作用。ESOs有三个：欧洲标准化委员会（简称“CEN”）、欧洲电工标准化委员会（简称“CENELEC”）和欧洲电信标准化协会（简称“ETSI”）。ESOs的目标是促进欧盟内的协调，独特地将标准制定与填补现有或潜在的欧盟法律空白相结合。这样，标准化为欧盟带来许多好处，如巩固单一市场、加强竞争和促进跨境贸易，最终增强经济实力。

经由欧盟法规（1025/2012）在2013年认可和正式化，ESOs在标准化领域占有特殊地位。实际上，约30%的ESO标准是由欧盟委员会本身委托的。在这种情况下，默认存在“符合性假设”。换句话说，当一个组织、机构或政府遵循由欧盟委员会委托制定的自愿性标准时，他们也被认为符合该标准旨在支撑或补充的欧盟层面立法。

2023年5月22日，欧盟委员会发布了一项针对CEN和CENELEC的标准化请求，以支持即将到来的AIA（简称“标准化请求”）。欧盟委员会要求CEN和CENELEC起草新的欧洲标准（简称“欧洲标准”）或欧洲标准化成果（简称“成果”）。CEN和CENELEC需要开发涵盖以下领域的欧洲标准和成果（统称为“ESDs”）。如欧盟委员会发布的标准化请求附件II所述，需要在以下“关键技术领域”制定标准，以支持欧盟人工智能法案：

AI系统的风险管理体系：这些ESDs将规定AI系统风险管理体系的要求。目标是在AI系统的生命周期中建立一个持续的迭代过程，以预防或减少对健康、安全或基本权利的风险。
构建AI系统时使用的数据集的治理和质量：这些ESDs将包括适当的数据治理和数据管理程序的规范，供AI系统提供商实施。它们将关注数据生成和收集、数据准备操作、解决偏见以及确保用于训练、验证和测试AI系统的数据集质量。
AI系统的记录保持能力：这些ESDs将定义AI系统自动记录事件的规范。目标是在系统的生命周期中实现可追溯性，监控操作，并促进提供商的市场后监控。
向AI系统用户提供透明度和信息：这些ESDs将提供设计和开发解决方案的规范，以确保AI系统操作的透明度，使用户能够理解系统的输出并适当使用。它们还将包括使用说明，包括系统能力和局限性以及维护和护理措施。
AI系统的人类监督：这些ESDs将规定对AI系统的人类监督的措施和程序。提供商将被要求在市场投放或投入使用之前确定并构建这些措施。用户也应能够实施适当的监督措施。
AI系统的准确性规范：这些ESDs将概述确保AI系统适当准确性水平的规范。提供商将能够声明相关的准确性指标和水平，并将定义适当的工具和指标来根据定义的水平衡量准确性。
AI系统的鲁棒性规范：这些ESDs将制定AI系统鲁棒性的规范，考虑到错误、故障、不一致和与环境的互动等来源。它们还将考虑在部署后继续学习的AI系统。
AI系统的网络安全规范：这些ESDs将提供合适的组织和技术解决方案，以确保AI系统能够抵御试图通过利用AI系统的漏洞来改变其使用、行为、性能或破坏其安全属性的恶意第三方。
质量管理体系：这些ESDs将为AI系统的提供商起草，以在其组织内实施，特别考虑中小型组织。
AI系统的合格评定：这些ESDs将提供与AI系统及AI提供商的质量管理体系相关的合格评定活动的程序和流程。它们还将包括评估参与合格评定活动的个人能力的标准，考虑到评定由提供商或专业的外部第三方组织进行的情况。

在起草欧洲标准化文件（ESD）的过程中，欧洲标准化委员会（CEN）和欧洲电工标准化委员会（CENELEC）必须考虑欧盟委员会关于人工智能的政策目标，这些目标反映了人工智能法案（AIA）所代表的观点。这包括确保人工智能系统的安全性，促进人工智能领域的投资和创新，以及加强与国际的合作，以形成与欧盟的价值观和利益相一致的人工智能标准化。在起草欧洲标准时，还必须高度重视公共利益的考虑，“鉴于其对人工智能的发展和部署的重要性”。

欧盟委员会设想，标准化过程将是一个协作的过程，这意味着欧洲标准化组织（ESO）必须确保欧盟中小企业和民间社会组织有效参与欧洲标准的起草，并且必须收集与基本权利领域相关的专业知识。特别是对于中小企业，标准化旨在促进竞争，并在人工智能系统和解决方案的设计与开发中引入创新。

欧盟委员会发布的标准化要求，包括向CEN和CENELEC施加的报告义务，以定期指示标准化实施过程中取得的进展。具体来说，CEN和CENELEC需每六个月向欧盟委员会报告一次，并在2024年3月22日之前向委员会提交一份初步联合报告。除了欧洲标准的好处外，欧盟委员会认为，集体的国际标准化将有助于巩固对人工智能的信任的共同、全球视野，并通过消除对人工智能驱动的产品和服务的障碍，进一步促进贸易。其中一个例子是欧盟可能采纳国际标准化组织（ISO）和国际电工委员会（IEC）制定的标准。为了使这种合作有效地弥合国际人工智能治理的差距，CEN和CENELEC必须与ISO和IEC合作，同时不损害其保护欧盟利益的义务。

下图为协调标准制定的流程示意

欧盟AI法案中的标准化需求和制定流程简述

第一步：标准化请求的制定：欧洲委员会首先制定标准化请求，包括对欧洲标准化组织（ESOs）的要求草案。这些要求草案详细说明了标准的范围、时间表和法律要求，以确保开发的标准直接回应法令中的基本要求。这个请求是与ESOs和其他利益相关者协商制定的，以获得所有方的接受。经欧盟委员会批准后，该请求将被公布，ESOs必须作出回应。

第二步：ESOs起草标准：各国标准化机构（NSBs）提供技术专家参与技术委员会，负责起草过程。技术委员会还包括观察员选定的利益相关者。在这种情况下，它是欧洲标准化委员会（CEN）和欧洲电工标准化委员会（CENELEC）之间的联合技术委员会。该技术委员会组建了一个由NSBs专家和观察员组成的“工作组”来起草文件。该组并不一定每个国家都有一个专家；委员会自由选择小组成员。基于共识产生草案。通常，ESOs在国际标准化组织（ISO）或国际电工委员会（IEC）制定的国际标准可用时会优先考虑这些标准，以确保国际一致性，这也是世界贸易组织（WTO）技术性贸易壁垒协议的重要部分，防止各国利用标准阻碍国际贸易。

第三步：征询意见：NSBs负责从所有利益相关者那里收集反馈，并可以根据反馈更新草案。

第四步：协调标准顾问：顾问评估标准是否符合标准化请求中的要求，因此是否适合发布。顾问可以在整个过程中参与，但在投票时标准必须被认为是合规的——在投票后只能进行小的更改。

第五步：纳入《欧洲联盟官方公报》：如果标准被认为是合规的，它们将在《欧洲联盟官方公报》中发布，并成为协调标准。

第六步：NSBs的采纳：NSBs负责将新的协调标准纳入其国家标准，并消除任何相互冲突的标准。