全球人工智能安全指数近日发布，通过6个方面、12个维度，评估40个国家各自在人工智能安全方面的整体状况和应对人工智能（AI）安全挑战就绪度。中国处于第一梯队。
该指数由中国科学院自动化研究所人工智能伦理与治理中心、人工智能安全与超级对齐北京市重点实验室、远期人工智能研究中心等单位联合研究。
围绕AI安全的治理环境、国家机构、治理工具、研究水平、国际参与情况以及生存风险应对，该指数评估了40个国家在AI安全方面的就绪度。相对而言，发达国家的总体表现更好，有更强的研发能力，与AI安全相关的治理框架更完善，更积极参与国际合作；多数发展中国家和新兴经济体面临更多挑战。我国处于国际第一梯队。
随着生成式AI技术的突破及其在各个领域的深入应用，AI风险事件总数激增。经济合作与发展组织的AI事件监测器统计显示，2024年的风险事件总数比2022年增加了约21.8倍，呈现快速增长态势。在2019年至2024年间发生的AI风险事件中，约74%与AI安全问题直接相关，其中，2024年的事件数量比2023年增长了约83.7%。
“AI技术在赋能社会发展的同时，也带来了潜在复杂的安全风险，各国需要充分重视AI安全并采取行动。”报告主要作者之一、中国科学院自动化所人工智能伦理与治理中心主任曾毅说。各国的AI安全研究机构以不同形式呈现快速包容性发展。被评估的40个国家中，有17个国家拥有与AI安全相关的治理工具；包括我国在内的9个国家既拥有国家层面的AI相关安全法律，也建立了技术及政策框架。“大多数技术和政策框架，是在2024年发布的，这反映了各国为解决AI安全问题所做的一致努力。”
相关新闻中国AI“四剑客”海外获赞
春节期间，DeepSeek一跃成为全球瞩目的焦点，其成功也将更多优秀的中国人工智能（AI）企业推向世界舞台的聚光灯下。全球影响力最大的科技商业化智库《麻省理工科技评论》近日刊发了一篇题为《关注DeepSeek之外的四家中国人工智能初创公司》的报道并指出，阶跃星辰、面壁智能、智谱、无问芯穹四家中国AI初创企业同样展现出不逊于DeepSeek的技术实力与全球竞争力。
获《麻省理工科技评论》点名的这四家AI新锐中，阶跃星辰发布的大型语言模型Step-2参数超1万亿，在第三方基准测试网站上，表现仅次于OpenAI的ChatGPT、深度求索的Deep-Seek、Anthropic的Claude和谷歌的Gemini模型。
另外三家企业创始团队均与清华大学联系紧密。其中，面壁智能顺应端侧模型发展趋势，推出了专为智能手机、个人电脑、汽车系统、智能家居设备等终端设备实时处理而设计的MiniCPM系列模型。该模型参数小、性能强，被形象地称为“小钢炮”。同样源于清华大学的智谱，既专注于基础模型研发，也基于模型开发了对话模型ChatGLM和视频生成工具清影等一系列AI产品。另一家“清华系”初创企业无问芯穹，其核心竞争力则在于将来自不同品牌的芯片整合在一起形成“异构计算集群”来执行各类AI任务，为大模型从开发到部署的全流程降本增效。
来源：北京日报
