目今，全球数字经济正逐渐向以人工智能(AI)为焦点驱动力的智能经济新阶段迈进。AI手艺在各行业获得普遍应用，但在为经济和社会生长注入新动能的同时，也带来了羁系难题。为此，2021年4月，欧盟宣布《人工智能法》提案(以下简称《法案》)，提出了AI统一羁系规则，旨在从国家执法层面限制AI手艺生长带来的潜在危害和不良影响，使AI手艺在切合欧洲价值观和基本权力的基础上手艺应用立异获得进一步增强，让欧洲成为可信托的全球AI中心。作为AI领域的“GDPR”，该《法案》是全球首部AI管制执法，研究其内容和立异点，对制订我国AI等数字手艺治理计划具有主要借鉴意义。
《法案》焦点内容
宽泛界说了AI系统，并设置了AI规则的域外适用性。一方面，《法案》界说了AI系统、AI系统供应链上涉及到的相关环节以及差别类别的AI数据等相关要素，对羁系工具(AI系统)的界说体现出极强的宽泛性，险些涵盖了所有使用古板及新兴AI手艺的系统(AI手艺使用常态化的互联网效劳均为羁系工具)，与GDPR中对受羁系的小我私家数据的宽泛界说坚持一致。另一方面，《法案》明确了所有在欧盟市场投放、使用AI系统及相关效劳的海内外供应商、效劳商和公共效劳用户提供者，只要其AI系统影响到欧盟及欧盟公民的，均将受到《法案》约束，从而包管了AI规则的域外适用性。
对差别应用场景的AI系统实验危害定级，并划分提出规制路径。《法案》基于差别应用场景的危害差别性，将AI系统分为“不可接受、高、有限、极小”四个危害品级，并针对差别级别危害实验差别水平的规制，从而构建起以危害为基础的四级治理系统。一是将对基自己权和社会公正组成显着威胁的AI系统视为“不可接受” ；二是将可能危及公民人身清静及生涯基本权力场景中的AI系统视为“高危害” ；三是将具有特定透明度义务的AI系统视为“有限危害” ；四是将提供简朴工具性功效的AI系统视为“极小危害”。
为在特定领域提供“高危害”AI系统的企业提出“全生命周期”式的多重合规要求，旨在增强AI产品及效劳的透明度。《法案》重点对“高危害”AI系统的开发、安排和应用等全生命周期提出了系列规范，并要求企业等AI系统供应商推行以下透明化义务：一是在AI系统开发历程中，建设危害治理系统、举行数据质量磨练、设计用户见告和日志追溯功效、搭建网络清静包管能力、体例用于羁系审计的手艺信息文件等。二是在AI系统首次运营前或系统升级迭代后，实时开展合规性评估，并在欧盟委员会建设和治理的大数据库中举行备案挂号。三是在AI系统投入使用历程中，建设与AI危害级别相匹配顺应的售后监测系统与人为监视机制，对AI应用中的危害举行监控预警，在发明可能的危害后召回系统处置惩罚并通知相关羁系机构。四是在AI系统爆发故障或严重事故时，应连忙接纳调解步伐，并在半个月内向相关羁系部分报告。
设立专项AI监视机构，加大羁系执法力度。在AI羁系主体方面，《法案》提出将通过建设欧洲人工智能委员会，推动AI新规则的实验完善，以及后续AI标准的制订出台，并借此构建各国羁系部分的联络渠道，协调欧盟层面的AI羁系政策，以坚持AI羁系系统的统一性。别的，要求各成员国建设通知机构，指定和通知第三方及格评定机构开展羁系评估，并按期将羁系视察信息发送至AI委员会。在AI羁系执法方面，《法案》提出将对建设或应用AI系统历程中的违法企业处以高达约3600万美元的行政�？�，或全球年度总营业额的2%-6%，取两者中最高的金额举行处分。相比GDPR中4%年营业额的�？罱鸲�，《法案》的AI羁系处分力度进一步加大。别的，将撤回未在划准时间内实验整改步伐企业的AI系统，并限制其市场销售。
《法案》亮点剖析
与GDPR有用衔接，进一步明确了AI系统的数据治理要求。数据和算法是AI手艺的焦点要素，AI系统通过数据喂养举行算法模子优化，算法模子也应用于对小我私家数据的深度挖掘，实现基于学习的智能化效劳。为此，《法案》重点关注了AI系统的数据清静和算法歧视私见等问题，并举行了明确规制，包括：AI系统在网络用户数据前需推行见告义务，以包管用户的知情权和选择权，确保数据收罗的正当性 ；在训练、验证、测试“高危害”AI系统数据集时，应完成数据质量磨练、算法私见评估检查等要求 ；在AI羁系沙盒中处置惩罚小我私家数据时，应包管小我私家数据均处于功效自力、隔离且受� ；さ氖荽χ贸头Ｇ樾沃�，并需实验授权会见和数据删除机制。
搭建具备可拓展性的执法框架，填补了手艺羁系的滞后性缺陷。面临飞速生长的AI等新兴数字手艺，执法的适用性一连时间往往较短，新制订的执法划定可能很快就无法适用于现真相形，难以实现对迭代快速的AI手艺举行周全羁系，AI领域的法制系统滞后性凸显。为此，《法案》专门预留了实时调解更新执法的空间，通过设臵“动态清单”，巧妙化解了执法滞后性和手艺飞速生长之间的矛盾。例如，对AI系统的界说，《法案》以附件形式详细枚举了属于AI规模内的手艺和要领清单，并通过更新清单机制，坚持与最前沿AI手艺的同步性 ；针对“高危害”AI系统的界定，《法案》制订了“高危害”清单，并付与人工智能委员会团结危害多边性判断并提出添加新“高危害”应用场景建议的权力，以确保执法的实时更新。
实验对人工智能系统的分类分级羁系，构建系统性AI治理系统。AI手艺具有跨学科、前沿知识融合等重大属性，差别AI系统在相同场景中可造成差别种类的危害，相同AI系统在差别场景中应用也可能带来差别种类或差别水平的危害。为此，《法案》接纳分类分级思绪，在梳理重点应用场景类别的基础上，对差别应用场景凭证AI系统危害可能的影响水平和危害性子实验差别品级的分类治理，替换对差别场景的AI危害举行疏散专项治理的古板路径。通过构建清晰且系统性的治理框架，实现对AI系统重大性危害的“降维”治理。
率先建设AI羁系沙盒机制，探索羁系人工智能危害的新模式。手艺规制的执法制订常见难点之一就是怎样在实现有用羁系的同时，兼顾手艺立异生长，勉励企业认真任的立异行为。为此，《法案》提出通过建设AI羁系沙盒，为AI系统的开发、安排、验证、测试提供了一个可控的隔离情形，使欧洲企业可在免责条件下举行AI相关的试验和立异，且试验全历程受到羁系部分的监视。通过在可控规模内实验容错纠错机制，在杜绝AI未知问题向不可控外部情形扩散危害的同时，也为AI立异企业创立了相对宽松的生长情形。
四点启示
强化AI立法，制订具备衔接性与无邪性的执法羁系框架� ；贏I危害的重大性、多变性，以及其与数据清静的细密关联性，在探索AI执律例制路径时，可参考欧盟《法案》亮点，增强执法内容的衔接协调与无邪开放特征。一方面，确保AI执法与《网络清静法》、《民典法》、《数据清静法》、《小我私家信息� ；し�(草案)》四项数据和小我私家信息� ；せ痉ǖ挠杏孟谓�，明确AI语境下的数据清静及小我私家隐私� ；ぴ�，规制AI数据清静危害。另一方面，针对AI手艺、“高中低”危害应用场景等具有转变特征的看法实验动态界说，通过设臵清单列表并建设类数据库功效的“增删改查”调解机制，确保执法在手艺生长和场景变换下的时效性和无邪性，避免AI执法内容滞后带来的羁系逆境。
探索分类分级羁系路径，依据差别应用场景精准施策�？伤剂拷幽伞斗ò浮分械姆掷喾旨吨卫硭夹�，依托对差别场景类别的梳理，以及场景危害对小我私家生命和生涯权力、社会秩序影响巨细，将差别应用场景举行分级，对归属于统一危害级别场景中的AI系统举行统一管控，对差别危害级别场景中的AI系统划分接纳具有差别约束水平的治理方法，从而建设起自下而上限制逐步加深的“危害金字塔”规制模子。实验以“危害金字塔”为抓手，构建系统精准的AI羁系治理系统，解决恒久以来面临重大多样的AI系统危害时羁系效能低下的逆境。
明确企业在AI产品开发、运营历程中的强制性义务，提高AI系统的透明度。要求企业在AI产品开发历程中，建设完善的AI系统危害管控流程，包括开展数据质量磨练阻止数据投毒等事务爆发、建设日志追溯机制强化危害的归因溯源、建设网络清静包管能力避免数据泄露等 ；在AI产品投入市场使用前或系统刷新后，按期通过第三方评估机构开展评估认证，向羁系部分备案AI算法的设计运行机制、可能的私见和误差、AI数据清静� ；ず臀：芸夭椒� ；在AI产品投入使用后，实时开展监控预警，建设应急响应机制，实时处置惩罚可能的AI危害事故并同步羁系部分。
多措并举构建系统化的AI羁系机制，制订容纳审慎的手艺羁系步伐。一是建设AI羁系专项认真机构，实时跟踪和制约AI危害。AI羁系机构认真跟踪AI手艺生长和应用场景转变，实时提出AI新危害应对、羁系规模更新等相关建议 ；对州不认真任的AI提供者实验约谈处分，举行有用制约和威慑。二是完善标准系统，建设第三方机构开展AI危害检测认证。加速制订AI相关手艺和应用的清静标准，明确各领域AI系统的审计、日志、见告等透明性要求与权衡指标 ；培育权威的第三方AI危害评估机构，开展AI算法、透明度、数据清静危害等相关评估。三是探索设立AI沙盒羁系，探寻危害制约和立异� ；ぶ涞淖罴淹沤岬�。建议由AI羁系的专项认真机构确定沙盒羁系基来源则和条件，将具备立异性但危害未知的AI产品或商业模式在进入市场前，预先在沙盒情形举行迭代验证，使用户在受� ；さ那樾问褂肁I产品或效劳。
登录
用户
员工
供应商
经销商
上海市浦东新区沪南公路4888号（201317）
电话：400-6316166（事情日8：30-18：00）
传真：021-58124888-6117
填写需求
在线咨询
智能客服
提交问题单
400-631-6166