欧盟理事会5月21日正式批准欧盟《人工智能法案》（以下简称《法案》），该法案成为世界上首部对人工智能进行全面监管的法案。《法案》通过后，欧盟就宣布成立人工智能办公室，依法对人工智能发展进行监管。
《法案》的颁布，意味着欧盟以外的组织机构在其人工智能平台中使用欧盟国家各领域的数据时，必须遵守该法。因此，该法案可能会给其他国家和地区人工智能发展带来重要影响。对《法案》主体内容进行分析，可以发现，人工智能发展的风险控制和安全管理是永恒主题。
确保操作者和使用者有人工智能素养
现阶段，人工智能技术飞速发展，同时在各大经济体中引发激烈竞争，发展过程中容易忽视风险管控和安全管理。人工智能技术的研发和应用不仅不得损害人类权利和尊严，而且要最大程度增进人类福祉。
欧盟在《法案》第一章总则部分，阐明了出台目的是改善欧盟内部市场运作，推动开发值得信赖的人工智能应用，同时确保对健康安全、民主法治和环境保护等《欧盟基本权利宪章》所规定权利的高度保护，使其免受联盟内人工智能系统的有害影响。
《法案》具体内容表现出对人工智能系统提供者和使用者人工智能素养的重视，要求系统的提供者和部署者应采取措施，尽最大努力确保操作和使用人工智能系统的人员具有足够的人工智能素养。《法案》明令禁止了一系列损害人的主体地位和基本权利的行为。这些行为包括：在人工智能系统投入和使用过程中，采用超出个人意识范围的潜意识技术或欺骗性技术，损害人们作出知情决定的能力，导致人们作出本来不会作出的决定；对年龄、残疾或经济状况处于弱势地位群体的歧视；对个人或群体进行评估分类或是预测他们刑事犯罪风险程度的行为。当然，如果用户认为该系统会对其健康、安全或基本权利产生不利影响，则有权要求人工智能系统部署者作出明确解释。
明确违反人工智能相关法律条款的问责机制
欧盟制定并通过《法案》，在一定意义上是通过框架性法律，明确当前欧盟人工智能发展倡导什么、反对什么、禁止什么。人工智能发展治理，要经过严格且审慎的程序，在起草、审议、签署、正式生效等重要环节确保立法程序的严谨。
根据欧盟消息，《法案》的草拟、审议和推行也是多方利益博弈的结果。欧盟委员会在公众咨询期内征集了来自不同国家、不同机构的意见书，法案最终版本的定稿经历了欧盟成员国内多轮谈判和修订。在立法准备阶段，欧盟先是就法案内容征求了公众意见，包括非政府组织、企业、商业协会等机构，范围不仅仅局限于欧盟内部成员国，也扩展到了欧盟以外的其他国家和地区。接着，欧盟内部进行了多次谈判和意见交换，对草案提出了数千项修正提案。2023年12月，欧盟理事会、欧洲议会和欧盟委员会三方达成一致协议，助推《法案》最终正式通过。
在《法案》中，欧盟明确了违反法律条款的问责机制，具体形式包括罚款和警告等非经济措施。其中，《法案》将问责对象分为以下两种：一是对工会组织、机构和团体的行政罚款，二是通用人工智能模型提供者的罚款。针对欧盟内部行政机构的违法行为，相关执法人员有权对该法案适用范围内的联盟机构、团体、办事处和机关处以罚款。对于提供通用人工智能模型的企业或组织存在故意或过失行为，欧盟委员会可对其进行罚款，但在罚款金额的确定上遵循有效、适度且具有惩戒力原则。对于包括初创企业在内的一些中小企业，应充分考虑他们的利益和经济可行性。
强调对高风险人工智能系统的规范和约束
欧盟认为，对人工智能发展进行治理，不是限制人工智能技术创新、数字产业发展，而在于通过法律手段调整各种关系，使人工智能发展的必要条件得到法律保护。
欧盟在《法案》中，将人工智能系统划分为不同的等级：不可接受风险类、高风险类、有限风险类和最小风险类，风险等级越高，相应管控越严格。《法案》强调对高风险人工智能系统的规范和约束。一是在高风险人工智能系统的整个生命周期中，定期对系统进行审查和更新的风险管理制度。二是涉及用数据训练人工智能模型的技术的高风险人工智能系统，应在训练、验证和测试数据集的基础上开发和使用。三是应在高风险人工智能系统投放市场或投入使用前起草技术文件，同时在系统投入使用过程中做好记录保存。四是高风险人工智能系统的设计和开发，应确保其运行足够透明，能够解释系统输出内容，并确保它能被适当使用。
《法案》要求，欧盟各成员国至少建立一个人工智能监管沙盒（AI Regulatory Sandboxes）。在新型人工智能系统投放市场或投入使用前，监管沙盒能够提供一个可控的环境，在有限的时间内进行人工智能系统的研发创新、培训、测试和验证，以便主管部门查明系统潜在风险，有效促进产业创新、提升竞争力，推动人工智能生态系统的可持续发展。此外，《法案》明确了人工智能办公室、欧洲人工智能委员会的设立。同时，《法案》明确表示，设立董事会，为委员会和成员国提供建议和协助；设立咨询论坛，向理事会和委员会提供技术方面的咨询意见；成立独立的专家科学小组，向人工智能办公室提供建议和支持。
欧盟对人工智能发展进行立法，意味着欧洲内部对人工智能的未来部署和应对行动，已经达成了共识。《法案》一经出台，也引发不少争议，如执行中可能陷入过度监管或过度包容的困境，不利于人工智能发展和创新等。如何更好地迎接人工智能发展带来的机遇和挑战，已经成为现阶段和未来全球需要探讨的课题。
（作者单位系浙江师范大学教育学院）
