人工智能与法律合规 | 第3期 - 一个和谐有爱的空间

本期目录

一、人工智能法律动态

1. 涉自动驾驶的全国人大代表建议得到高质量办理

2.《关于启动自动驾驶标准制定工作前置的建议》入选全国人大首次发布的十大高质量办理议案建议典型案例

3. 广州首次将自动驾驶车辆开进广州市中心、机场和高铁站

二、法律理论研究

1. 郑志峰 | 电车难题不再是思想试验，而是自动驾驶汽车迫在眉睫的立法问题

2. 陈兵刘永集 | 科技伦理与法治因应：自动驾驶的安全发展

3. 魏宏德 | 智能网联汽车商业化运用有关法律问题探析

4. 孙剑锋 | 人机共驾下“电车难题”的解构：冲突、调和与归责

5. 郑飞 | 自动驾驶立法亟待解决三个主要争议

一、人工智能法律动态

1. 涉自动驾驶的全国人大代表建议得到高质量办理

十四届全国人大二次会议期间，多位全国人大代表提出涉及新能源汽车和自动驾驶技术发展的代表建议。其中，全国人大代表、全国人大宪法和法律委员会副主任委员、清华大学法学院院长周光权，提出了《关于促进和规范自动驾驶的建议》。

周光权为此建议推动修改《中华人民共和国道路交通安全法》等上位法，推进高级别自动驾驶商业化落地，促进与自动驾驶相关的新质生产力发展壮大。他在建议中就允许自动驾驶车辆上路行驶、以车辆所有人和管理人代替驾驶人、事故责任认定引入无过错责任、明确数据存储和提供义务等方面提出了具体意见。

详细内容链接：涉自动驾驶的全国人大代表建议得到高质量办理

2.《关于启动自动驾驶标准制定工作前置的建议》入选全国人大首次发布的十大高质量办理议案建议典型案例

2月19日，全国人大常委会代表工作委员会举办高质量审议代表议案办理代表建议典型案例新闻吹风会。会上发布了十个典型案例，由全国人大代表、中国科学院科技战略咨询研究院院长潘教峰提出的《关于启动自动驾驶标准制定工作前置的建议》入选典型案例。潘教峰代表对智能网联汽车领域发展高度关注，他在调研中发现，各地自动驾驶管理标准规范不一，企业跨区域运营时需要大量适配工作，运营成本压力比较大，不利于自动驾驶技术的商业化落地，迫切需要提前开展制度法规、管理规范、技术标准的研究和布局。

为此，在十四届全国人大一次会议上，潘教峰代表提出《关于启动自动驾驶标准制定工作前置的建议》，呼吁将自动驾驶标准的制定工作前置，结合现有技术标准和管理经验，在自动驾驶进入大规模商业化发展之前，统一各地区自动驾驶汽车技术和管理标准，出台全国性管理标准规范。他并提出“三步走”的具体措施：一是加强城市间合作，推动各地区测试数据互认、准入标准统一；二是引导新出台规范的地区尽量按照已有标准制定管理条例，新标准立项需要进行前置论证；三是发挥部际联合会议制度的作用，加快出台全国统一的自动驾驶汽车管理标准与规范。

详细内容链接：发挥国家高端科技智库战略咨询作用｜《关于启动自动驾驶标准制定工作前置的建议》入选全国人大首次发布的十大高质量办理议案建议典型案例

3. 广州首次将自动驾驶车辆开进广州市中心、机场和高铁站

从2025年 2月21日开始，广州首次将自动驾驶车辆（Robotaxi）开进广州市中心、机场和高铁站。

在机场高速路况良好、行驶安全的情况下，车子几乎就能以120km/h的最高限速行驶，并随时根据路况实时动态调整行驶策略，时刻与前车保持安全车距。在变道、遇到慢车时也能提前预判，全程没遇到急刹车，犹如一位胆大心细、经验丰富的老司机。在驾驶操作感受上，它比许多的网约车司机更显稳健。

“在初期示范运营，车内主驾必须要配有安全员，未来这条专线有望如南沙区一样，不断推进自动驾驶车辆往车内全无人进阶。”相关工作人员告诉记者，安全员的存在，是在运营期间的必要关头，可以随时切换成人工驾驶，尽量保证出行安全。

详细内容链接：最新！广州市中心可打自动驾驶车辆，价格“真香”

二、法律理论研究

1. 郑志峰 | 电车难题不再是思想试验，而是自动驾驶汽车迫在眉睫的立法问题

“电车难题”并非单纯的思想试验，而是确保机器决策符合人类伦理的重要实践，直接影响自动驾驶汽车的产品准入、责任承担等制度设计，对于自动驾驶汽车乃至人工智能的立法均有现实的规范意义。与传统“电车难题”相比，自动驾驶汽车“电车难题”在伦理对象、选择时机以及利益关联方面存在特殊性，大大增加了法律规制的难度。无论是拯救多数人、综合评分、车内人员优先、车外人员优先等积极应对路径，还是不干预、随机选择、制动停车等不作为应对路径，抑或交给人类驾驶员选择等转移应对路径，都难以完美应对自动驾驶汽车“电车难题”的伦理拷问。对此，德国《自动驾驶法案》率先将“电车难题”入法，从产品准入的角度为自动驾驶汽车碰撞算法的设计提供指引。

在我国，《关于开展智能网联汽车准入和上路通行试点工作的通知》《上海市浦东新区促进无驾驶人智能网联汽车创新应用规定》等也重视自动驾驶汽车碰撞算法设计的重要性，《人工智能法》（学者建议稿）更是对自动驾驶汽车如何应对“电车难题”作出初步探索.从提升全体交通参与者的出行安全与效率出发，未来制定《自动驾驶汽车法》或者《人工智能法》时应确立遵守交通法规优先法则、紧急避险例外法则以及不改变路线兜底法则等三大碰撞法则，同时通过风险管控、产品嵌入以及透明问责等配套规则予以落实。

详细内容链接：郑志峰：电车难题不再是思想试验，而是自动驾驶汽车迫在眉睫的立法问题

2. 陈兵刘永集 | 科技伦理与法治因应：自动驾驶的安全发展

统筹安全与创新，是以人工智能为依托的自动驾驶发展所面临的极具挑战的价值难题。自动驾驶发展的伦理边界如何在法治层面予以回应，映射出科技伦理与法治价值的博弈与融合的现实需求。自动驾驶技术的核心依托是人工智能，首先要对“主体”进行明晰，来明确作出抉择的主体究竟是人工智能本身、乘客还是远程操控人员。为破解这一难题，学者们提出了“乘客优先”“行人优先”以及“随机选择”等方案，其背后涉及哲学、伦理学以及法学等方方面面。无论何种方案，解决自动驾驶所带来的科技伦理难题的基本路径终归是必须不断完善法治举措。从规范性维度理解，将人工智能定位于辅助人类作出决定的工具时，其辅助属性决定了运用该技术的主体有最终决定权。当下，亟需明确法治对自动驾驶具体主体的责任设定及其归因条件，其出发点和落脚点应体现高质量发展与高水平安全的统筹，夯实自动驾驶技术开发与创新应用的安全底线，在保障安全的前提下以更加开放包容的态度促进人工智能创新发展。

详细内容链接：科技伦理与法治因应：自动驾驶的安全发展 | 数字社会

3. 魏宏德 | 智能网联汽车商业化运用有关法律问题探析

随着人工智能、自动驾驶技术快速迭代，无人驾驶汽车将是汽车领域的新蓝海，智能网联汽车从科研测试到示范应用，最终实现商业化运用的需求日益迫切。目前，我国共有17个国家级智能网联汽车测试示范区，累计开放测试道路3.2万公里，其中，开展城市客运自动驾驶示范应用的城市超过30个，相关企业超过80家，车辆总规模超过1650辆，服务总人数超过200万人次。现行法律法规以机动车和人类驾驶员为对象，主要规制传统汽车。智能网联汽车商业化运营还面临诸多法律障碍：一是产品准入，车辆无法量产销售；二是上路通行，无法取得正式牌照，车辆上路通行权受限；三是营运许可，无法取得运营资质；四是责任认定，保险、事故、数据、安全等方面管理制度难以落实。自动驾驶技术作为全球新一轮科技革命与产业发展竞争的重要领域，是加快形成新质生产力的重要途径。面对人民群众新期待，必须持续推动智能网联汽车创新发展，必须统筹发展和安全，统筹国家治理与社会发展，统筹促进就业和新技术推广运用，既“放得活”又“管得住”，加快立法进程、落实安全责任、严守法律法规底线、引导行业健康发展，创造更加公平、更有活力的市场环境和法治环境。

详细内容链接：魏宏德：智能网联汽车商业化运用有关法律问题探析

4. 孙剑锋：人机共驾下“电车难题”的解构：冲突、调和与归责

人机共驾是指以自动驾驶系统操作机动车为主、驾驶者随时接管车辆为辅的一种新型驾驶模式。在面对紧急情况，即保护驾驶者安全与公共安全相抵牾时，驾驶者与自动驾驶系统如何抉择，便产生了“电车难题”。自动驾驶系统中的最小风险管理义务是驾驶者无法及时处理紧急情况时，临时接管机动车的算法，基于人工智能的治理原则，以保护公共安全为优位；而驾驶者面对紧急情况时基于本能反应，选择保护自身安全，牺牲公共安全。对于二者的冲突，借助数据分析探索调和路径，通过对影响交通事故的动态与静态因素的分析，在冲突造成损害结果后明晰归责主体。今后还需吸纳与分析人机共驾模式下认定事故责任的证据。对于可能影响案件事实的车内录像、方向盘的手掌触感及力度的数据等证据，也需要在规范层面加以肯定，从而确保更加公正地认定案件事实。

详细内容链接：学术前沿 | 孙剑锋：人机共驾下“电车难题”的解构：冲突、调和与归责

5. 郑飞 | 自动驾驶立法亟待解决三个主要争议

中国自动驾驶汽车产业已步入发展快车道，国家统计局数据显示，2023年中国汽车制造业总营收首次突破10万亿元大关，成为国民经济的重要支柱产业之一。但相关立法整体处于滞后状态。对此，亟待厘清争议较大的三个主要问题，以渐进式规制路径逐步完善相关法律法规，补强法律供给。本文中的自动驾驶汽车是指具备有条件自动驾驶（L3级）、高度自动驾驶（L4级）、完全自动驾驶（L5级）功能的汽车相关的三个最为重要的立法争议。一是依据从“技术分级”到“主体分类”的逻辑进路，建议建立“主体分类”的责任配置模式；二是厘清“智能网联”与“单车智能”的技术优劣及应用前景，建议选择不预设技术路线的中立立法方式；三是对比全球“法律修改”与“专门立法”两大立法模式，建议走渐进式法律规制路径。中国自动驾驶汽车法律规制应采用渐进式立法路径：从近期“法律修改”至中期制定专门条例再到远期进行“专门立法”，逐步完备该领域的法律规制体系。

详细内容链接：郑飞 | 自动驾驶立法亟待解决三个主要争议