本文转自：人民法院报
刘汗青
编者按人工智能在促进社会经济发展、加速技术创新的同时，也导致了技术滥用、虚假信息传播扩散加剧等问题，引发社会广泛关注。如何加强人工智能治理成为全球治理的重要议题，各国相继开展人工智能立法，以完善人工智能法律治理体系，防范人工智能潜在风险，确保人工智能安全、可靠、可控。本版特开设“人工智能治理规则”栏目，考察各国人工智能治理的立法演进和运行实践。2025年3月4日，英国正式提出《人工智能（监管）法案》，该法案明确了人工智能的监管机构、监管原则，强调加强人工智能的透明度、保护知识产权，力求在促进创新的同时填补人工智能监管空白。为此，本期文章聚焦英国人工智能治理的立法新进展，探寻其立法的背景、内容亮点与启示，敬请关注。
□ 刘汗青
武凡熙 作
2025年3月4日，英国正式提出《人工智能（监管）法案》（以下简称《法案》），标志着该国在人工智能治理领域迈出关键一步。《法案》仍处于立法审议阶段，目前已通过上议院一读，后续需经议会两院的进一步审议，在两院通过并获英国国王批准后，方能正式成为法律。《法案》旨在通过明确人工智能监管原则、强化透明度等方式，确保人工智能技术的安全性、可靠性、公平性与可追责性，体现了英国对全球人工智能监管趋势的回应。
《法案》的提出源于全球人工智能监管趋势的演变以及英国国内政策的调整。长期以来，英国在人工智能治理方面采取鼓励创新的态度，2023年发布的人工智能白皮书提出了人工智能监管框架，赋予监管机构灵活调整规则的空间，从而鼓励创新并避免阻碍初创企业发展。
立法背景
然而，人工智能技术的迅猛发展，引发了传播虚假信息、加剧偏见以及颠覆传统行业等现实问题，重创新轻监管的局限性日益凸显。此外，在公共服务领域，人工智能决策工具暴露出的缺陷进一步加剧了公众对人工智能潜在风险的担忧。基于此，英国政府开始积极寻求创新与安全之间的平衡。《法案》在制定过程中广泛咨询科技企业、学术界和公民团体的意见，同时借鉴了欧盟《人工智能法》等国际经验。
《法案》将人工智能定义为能够感知环境、解释数据并提出实现特定目标建议的技术，包括生成式人工智能。《法案》内容丰富，其主要内容与亮点如下：
主要内容与亮点
《法案》提议设立人工智能管理局。人工智能管理局是由国务大臣依照相关法规设立的专职监管机构，其核心职责是全面统筹人工智能的监管工作。第一，确保相关监管机构充分考虑人工智能的影响，并在监管方式上保持一致，同时对监管职责进行差距分析，以填补潜在的监管空白。第二，协调对相关立法的审查，涵盖产品安全、隐私保护和消费者权益保护等方面，评估这些法律是否能够有效应对人工智能带来的挑战与机遇。第三，监测和评估整体监管框架的有效性，特别是对《法案》所规定的监管原则的执行情况以及这些原则对创新的支持程度。第四，评估并监测人工智能给经济领域带来的风险，通过前瞻性分析与行业咨询，对新兴技术趋势作出积极回应。第五，支持测试平台和沙盒计划，帮助人工智能创新者将新技术推向市场，并负责认证独立的人工智能审计师。第六，承担教育和宣传职能，明确企业责任，并赋予个人在监管框架迭代过程中表达意见的权利。第七，促进与国际监管框架的互操作性，推动人工智能的全球协同发展。
设立人工智能管理局
《法案》明确了人工智能管理局的监管原则。第一，安全、可靠与稳健原则。要求人工智能的开发与应用具备安全性、可靠性，能抵御攻击、防止故障并保持稳健性。第二，适当的透明度与可解释性原则。要求开发、部署或使用人工智能的企业必须保持适当的透明度，使用户知道何时与人工智能进行沟通交流，理解人工智能如何作出决策。第三，公平性原则。要求人工智能公平地对待每一个用户。第四，问责与治理原则。要求明确人工智能系统的责任归属。第五，可争议性与救济原则。要求在人工智能出错时，受影响的人可以提出质疑并获得救济。
明确监管原则
《法案》还要求人工智能开发、部署和使用必须遵守数据保护、隐私和知识产权等相关法律，人工智能的设计需具有包容性、避免歧视，并满足弱势群体的需求，生成可查找、可访问、可互操作和可复用的数据。人工智能监管措施需遵循比例原则，即对行业施加的限制必须与风险级别及公共利益相称，避免过度干预阻碍技术创新或削弱英国的国际竞争力。《法案》赋予国务大臣在广泛咨询后动态调整监管原则的权力，确保政策既能防控风险，又能为产业发展提供灵活空间。
《法案》要求人工智能管理局必须与相关监管机构合作，建立人工智能监管沙盒。监管沙盒由一个或多个监管机构设立，允许企业在真实市场环境中与实际消费者测试其创新性提议。其面向已获得授权的公司、尚未获得授权但需要授权的公司以及与从事受监管活动的英国公司合作或为其提供服务的科技公司开放。该机制为企业提供支持，帮助其确定保护消费者的适当措施，并要求测试必须有明确目标并在小范围内进行。此外，企业在测试与受监管活动相关的产品或服务之前，必须获得相关监管机构的授权或进行注册。国务大臣可在咨询相关人士后，通过法规修改有关监管沙盒的表述。
构建监管沙盒
《法案》要求国务大臣在咨询人工智能管理局及其认为适当的其他人士后制定法规，任何开发、部署或使用人工智能的企业必须指定一名人工智能责任专员。其职责包括确保企业安全、道德、无偏见且非歧视地使用人工智能，并在合理可行的范围内，确保企业在人工智能技术中使用的数据无偏见。此外，《法案》规定在《2006年公司法》中增加公司关于人工智能使用的义务，包括披露其对人工智能的开发、部署或使用情况以及根据《法案》指定的人工智能责任专员的姓名和活动。最后，国务大臣可在咨询相关人士后，通过法规对人工智能责任专员的职责以及拟在《2006年公司法》中新增的内容进行修改。
设置人工智能责任专员
《法案》要求国务大臣在咨询人工智能管理局及其认为适当的其他人士后制定法规，确保人工智能的透明度、知识产权保护和合规性。具体而言，参与人工智能训练的个人或实体需向人工智能管理局提交所有第三方数据和知识产权记录，并保证这些数据和知识产权的使用基于知情同意，同时履行相应的知识产权和版权义务。此外，提供涉及人工智能产品或服务的个人或实体，必须向客户提供明确且无歧义的健康风险警示和产品标识说明以及赋予其在事前选择是否同意使用人工智能的权利。开发、部署或使用人工智能的企业还需允许人工智能管理局认可的独立第三方对其流程和系统进行审计。最后，依据本部分制定的法规可规定知情同意的形式为明示（选择加入）或默示（选择退出），并根据不同情形作出相应规定。
明确透明度、知识产权义务和标签
《法案》要求人工智能管理局有责任开展一项长期且有意义的公众参与计划，旨在探讨人工智能带来的机遇和风险。在此过程中，人工智能管理局需就如何构建有效的公众参与框架，广泛征求公众意见以及咨询其认为合适的相关人士，并参考国际上的类似案例。
注重公众参与
《法案》通过设立人工智能管理局实现跨部门监管协同。该机构整合工业、网络安全、科技、数据管理等部门的职能，负责协调各部门的监管职责，确保监管方式的一致性，避免监管空白和重复监管。同时，该机构应负责审查现有法律法规在人工智能领域的适用性、监测监管框架的有效性、评估人工智能对经济和社会的影响，并推动与国际监管框架的互操作性。通过设立国家级人工智能管理机构，可以系统、高效地应对人工智能带来的挑战和机遇。重要启示
设立专门的监管机构，统筹协调监管工作。
《法案》要求构建由一个或多个监管机构设立的人工智能监管沙盒，允许企业在真实市场环境中与消费者测试创新性提议。该监管沙盒应面向各类人工智能企业开放，尤其应当涵盖中小企业、初创企业，为其提供支持以识别适当的消费者保护措施。同时，要求测试具有明确目标且在小范围内进行，确保企业在测试前获得相关监管机构的授权或进行注册。通过建立监管沙盒，可以在保障安全的前提下，鼓励人工智能创新，加速新技术的市场化进程。构建监管沙盒，支持人工智能创新。
《法案》强调推动人工智能相关机构开展长期且有意义的公众参与计划，探讨人工智能带来的机遇和风险。人工智能相关机构应当广泛征求公众意见，咨询专家学者、行业协会和民间团体等各方意见，并参考国际经验。通过推动公众参与，可以增强社会对人工智能的风险与机遇的认知，凝聚社会共识，为人工智能的健康发展营造良好的社会环境。推动公众参与，凝聚社会共识。
（作者单位：苏州大学王健法学院）
