古特雷斯：人类命运不能交由算法决定
2024年12月19日，联合国安理会举行高级别会议，主题是：人工智能与维护国际和平与安全。联合国秘书长古特雷斯现场发表讲话，敦促会员国迅速采取行动，为人工智能技术的迅猛发展制定出一套全面的国际规范。他警告说，任何拖延都可能导致全球和平与安全面临更为严峻的风险。
刷新 
© 联合国视频
古特雷斯指出，人工智能技术的发展速度已远超当前人类治理人工智能的能力，这给人类的决策体系带来了前所未有的挑战，特别是在问责制、公平性、安全性以及人类监督方面。他警告说，每拖延一刻，全球面临的风险就会增加。
古特雷斯强调，任何国家都不应在武装冲突中设计、开发、部署或使用违反国际人道法和人权法的人工智能军事应用，特别是那些能够自主选择和攻击目标的人工智能系统。他明确指出，新兴技术所引发的地缘政治竞争绝不能以牺牲国际和平与安全为代价。
上下滑动查看更多
主席先生、各位阁下：
我感谢美国召集此次关于人工智能与维护国际和平与安全的会议。
2023年7月，我曾向安理会简要介绍了人工智能的情况。我当时说过，那些觉得技术发展迅猛的人必须理解一个简单的事实：
技术的未来发展速度永远不会像今天这样慢。
在那之后短短的时间内，人工智能以惊人的速度发展着。
在创纪录的投资推动下，当今的人工智能模型变得越来越强大、越来越多功能、越来越易于获取——它们不仅结合了语言、图像、声音、视频……还实现了决策自动化。
人工智能不仅仅在重塑我们的世界——它正在彻底改变我们的世界。
那些需要人类多年专业知识才能完成的任务，现在转瞬之间即可完成。
但风险也同样巨大。
这种快速增长超出了我们管理它的能力——引发了关于责任、平等、安全和安保的根本性问题。
以及关于人类在决策过程中的角色问题。
缺乏人类监督的人工智能将使世界陷入盲目——在维护全球和平与安全方面，这种盲目性和鲁莽性或许将体现得尤为突出。
主席先生，
人工智能工具已经在遭受冲突和不安全困扰的国家发挥了积极作用。
它们能够识别粮食不安全状况，预测极端事件和气候变化引发的流离失所情况。
它们能够探测并清除地雷。
不久的将来，人工智能还有可能在暴力爆发前发现动荡的苗头。
但人工智能也以更令人不安的方式进入了战场。
近期的冲突已成为人工智能军事应用的试验场。
人工智能在安全系统中的扩展引发了关于人权、尊严和法治的根本性关切——从自主边境监控到预测性警务等方方面面。
我长期以来一直警告人工智能系统可能带来的意外后果：每一次进步都会带来新的、难以想象的脆弱性。
“人工智能军备竞赛”为误解、误判和错误提供了肥沃的土壤。
人工智能赋能的网络攻击可能使一个国家的关键基础设施瘫痪，并使基本服务停摆。
最关键的是，人工智能正在侵蚀人类对武力使用控制的根本原则。
据报道，从基于情报的评估到目标选择，算法已经被用于作出关乎生死的决策。
人工智能与其他技术的结合使这些风险呈指数级放大。
人工智能与核武器的结合尤其令人警觉，可能带来灾难性后果。
我们必须不惜一切代价避免这种情况。
展望未来，量子-人工智能系统有可能突破最强大的防御，一夜之间改写数字安全的规则。
我们要明确一点：人类的命运绝不能交给算法的“黑箱”。
人类必须始终保留对决策功能的控制——以国际法，包括国际人道法和人权法以及伦理原则为指导。
人类创造了人工智能。
人类的手必须指引它前进。
主席先生，
除了武器系统外，我们还必须解决人工智能对和平与安全构成的其他风险。
人工智能能够创建高度逼真的内容，这些内容可以瞬间在在线平台上传播——操纵公众舆论，威胁信息完整性，使真相与彻头彻尾的谎言难以区分。
深度伪造技术可能引发外交危机，煽动动荡，破坏社会的基础。
人工智能的环境足迹也构成了独特的安全风险。
人工智能数据中心巨大的能源和水资源消耗，加上对关键矿产的争夺，正在引发对资源的危险竞争和地缘政治紧张局势。
主席先生，
前所未有的全球挑战需要前所未有的全球合作。
2023年7月，我欢迎一些会员国呼吁“创建一个新的联合国实体，以支持对人工智能进行管理的集体努力”，“建立和管理国际商定的监测和管理框架和机制”。
自那时以来，一系列倡议促进了围绕人工智能对国际和平与安全影响的高级别讨论——包括关于在军事领域负责任地应用人工智能的讨论。
许多会员国、区域集团和国际组织已经发布了关于人工智能的宣言。
联合国一直在努力减少人工智能治理的碎片化，并帮助将这些分散的倡议纳入一个共同框架。
联合国大会（General Assembly）已经通过了两项关于人工智能的决议——促进加强全球合作和能力建设。
第一委员会已建议通过第三项决议——重点关注军事领域的人工智能——联合国大会将在未来几天审议该决议。
我的人工智能问题高级别咨询机构在广泛全球协商的基础上，创纪录地在短时间内制定了一份蓝图，以应对人工智能给人类带来的深远风险和机遇。
他们的工作为建立一个框架奠定了基础——该框架将连接现有倡议，并确保每个国家都能帮助塑造我们的数字未来。
《联合国全球数字契约》（United Nations Global Digital Compact）将这一共同愿景转化为行动。该契约由未来峰会上的领导人通过，是第一个普遍认可的人工智能治理框架。
它承诺建立人工智能问题独立国际科学小组，并在联合国内部启动人工智能治理全球对话——让每个国家都有一席之地。
该契约还要求为在最需要的地方建设人工智能能力探索创新融资方案——确保发展中国家得到我们的全力支持。
一个由人工智能“有”与“无”构成的世界将是一个永远不稳定的世界。
我们绝不能让人工智能成为“加剧不平等”（Advancing Inequality）的代名词。
只有防止人工智能领域出现碎片化，我们才能构建一个技术服务于全人类的世界。
傅聪大使在安理会“人工智能与维护国际和平与安全”公开会上的发言
2024-12-19 15:25主席：我感谢布林肯国务卿主持此次会议，感谢古特雷斯秘书长的重要讲话，也感谢杨立昆教授、李飞飞教授所作的通报。当前，人工智能技术加速发展，赋能作用日益凸显，成为推动社会发展进步的重要力量。人工智能技术如同一把双刃剑，既可能成为改进社会治理、维护国际安全的力量，也可以成为威胁公平正义、危及和平稳定的源头。国际社会要共同加强人工智能的全球治理，确保人工智能技术的发展符合全人类共同价值，确保人工智能真正实现安全、可靠、可控、公平。中国始终以负责任态度探索人工智能发展与治理的科学路径。早在2017年颁布的《新一代人工智能发展规划》中，中国政府就明确提出要把握人工智能双重属性，最大程度防范风险。2021年，中国发布了《新一代人工智能伦理规范》，将伦理融入人工智能全生命周期。2023年，中国政府颁布了全球首个生成式人工智能立法文件。中国建设性参与人工智能全球治理进程。去年10月，习近平主席提出《全球人工智能治理倡议》，从发展、安全和治理三个维度全面阐释了中方理念。中方主提的“加强人工智能能力建设国际合作”决议由第78届联大协商一致通过，此后又提出《人工智能能力建设普惠计划》，并推动建立“人工智能能力建设国际合作之友小组”。近期，习近平主席在二十国集团领导人里约热内卢峰会上强调，要加强人工智能国际治理和合作，确保人工智能向善、造福全人类，避免其成为“富国和富人的游戏”。在金砖国家框架下，中国同各成员同意成立人工智能研究组，致力于加强信息交流和技术合作，形成具有广泛共识的人工智能治理框架和标准规范。在人工智能军事应用这一关乎全人类前途和命运的重大问题上，中国展现出了负责任大国应有的胸怀和担当。2021年，中国向《特定常规武器公约》提交了关于规范人工智能军事应用的立场文件。我们主张，各国尤其是大国对军事领域研发和使用人工智能技术应采取谨慎负责的态度，全面评估利弊后果，切实尊重他国安全关切，避免误解误判，防止军备竞赛。不断提高相关技术的安全性、可靠性、可控性，确保其处于人类控制之下，反对相关武器系统的误用、恶用、滥用和扩散。不久前，中美两国元首在利马会晤期间回顾了两国在人工智能领域的对话合作，确认有必要应对人工智能系统的风险，提升人工智能的安全性，加强国际合作，促进人工智能向善普惠，强调应本着慎重负责任的态度在军事领域发展人工智能技术。双方都确认应维持由人类控制核武器使用的决定。科学发展的规律表明，要在科学认知和前进中解决问题，既不能无所作为，也不能因噎废食。面对人工智能技术快速发展及应用的现实，对于国际社会如何行动，中方有几点建议：一要明确指导思想。要坚持安全与发展并重，实施敏捷治理，既加强前瞻性风险研判和管控，也要鼓励技术创新与和平利用。要遵守联合国宪章宗旨和原则，恪守国际关系基本准则，确保人工智能技术不会成为发动战争和追求霸权的工具。要坚持以人为本，遵守国际人道法和伦理道德，保障人类尊严和人权，避免滥杀滥伤和误用恶用。二是完善治理举措。要积极研发用于人工智能治理的合理可行技术，建立风险评估测试体系，实施分类分级管理。要建立健全相关法律和规章制度，加强对从业人员的教育培训。要坚持人防和技防相结合，防止包括黑客攻击或数据欺骗带来的系统风险，降低人工智能军事应用的扩散风险。三是加强国际合作。人工智能技术不是少数人的蛋糕，全球治理也不应由部分国家说了算。中方坚决反对把少数国家制定的规则强加于人，搞针对特定国家的“小圈子”。坚决反对以意识形态划界建立歧视性壁垒，损害各国特别是发展中国家平等利用新兴科技的权利。“脱钩断链”“小院高墙”只会违背市场经济规律，破坏国际经济秩序，扰乱全球产供链稳定。只有东西互鉴、共治普惠，寻求公约数、扩大合作面才是正解正道。在南北科技、数字和人工智能鸿沟扩大的背景下，必须秉持合作精神，增强发展中国家代表性和发言权，落实好全球数字契约，让人工智能技术惠及广大发展中国家。就此而言，作为最具普遍性、代表性、权威性的政府间国际组织，联合国理应成为人工智能全球治理的主渠道，协调涉及人工智能发展和安全的重大问题。作为人工智能大国，中方愿积极支持联合国开展相关工作，为推动建立普遍参与、广泛共识的治理规范贡献力量。谢谢主席！
