×

AI

详解《人工智能框架公约》,“布鲁塞尔”效应在AI领域会如何

hqy hqy 发表于2025-02-27 浏览16 评论0

当地时间5日,美国、欧盟、英国等10个国家和组织在欧洲委员会司法部长会议上签署了首个《人工智能框架公约》。

《人工智能框架公约》由欧洲委员会46个成员国、欧盟和包括加拿大、以色列、日本和美国在内的11个非成员国参与起草,过程历时两年多,今年5月份在欧洲委员会讨论通过。公约旨在应对AI系统的整个生命周期中出现的具体挑战,并鼓励审议AI相关的各类风险和影响,包括对人类健康和环境、就业和劳动等社会经济方面的影响。该公约也对非欧洲国家开放签署。

软件所提出面向开源人工智能框架的漏洞检测方法

AI

软件所提出面向开源人工智能框架的漏洞检测方法

hqy hqy 发表于2025-02-27 浏览10 评论0

近日,软件所智能软件研究中心研究团队基于开源软件供应链重大基础设施平台“源图”,在开源人工智能(AI)框架漏洞检测领域取得进展。研究团队通过微调大语言模型,构建AI框架间的代码映射关系,来实现对开源AI框架的有效安全检测。相关成果论文The Seeds of the FUTURE Sprout from History: Fuzzing for Unveiling Vulnerabilities in Prospective Deep-Learning Libraries被软件工程领域国际顶级会议ICSE 2025接收。第一作者为博士生李志远,通讯作者为吴敬征研究员与凌祥副研究员。