本文转自：人民邮电报
当前，人工智能作为引领新一轮科技革命与产业变革的战略性力量，已成为培育新质生产力的核心引擎，人工智能安全也成为备受关注的热点。7月31日，国务院常务会议审议通过的《关于深入实施“人工智能+”行动的意见》，强调要“提升安全能力水平，加快形成动态敏捷、多元协同的人工智能治理格局”。
随着智能体等人工智能新技术、新场景、新业态的涌现，网络威胁亦呈现出迭代升级之势，为全球数字治理和数字经济发展带来全新的挑战。日前，以“All In Agent”为主题的第十三届互联网安全大会（ISC.AI 2025）在北京召开，与会专家学者探讨大模型发展新趋势、人工智能向智能体演进的新路径以及智能体时代网络安全的新挑战。
技术革新背后的安全风险交织叠加
随着人工智能技术的迅猛发展，网络安全的危险持续攀升，如今，黑客组织可以将黑客的经验和能力训练进大模型，打造智能体黑客，将人与人的网络攻防变为人与智能体的攻防，加剧了网络的不对称性。去年以来全球范围内的网络攻击事件迅猛增加，攻击手段复杂隐蔽。
工业和信息化部原总工程师赵志国表示，技术革新背后的安全风险正在交织叠加：一是技术的脆弱性带来内生安全风险。数据的依赖性、算法的复杂性、算力的集中性等内在属性，使得模型幻觉、算法黑箱、数据可信等安全风险凸显。二是恶意利用放大安全危机。攻击手段朝着智能化、自动化方向发展，增强了攻击的隐蔽性与变异性。深度伪造欺诈、自动化攻击、开源生态投毒等新型网络威胁日渐增多。三是治理的复杂性日益凸显。人工智能技术的广泛使用，使其安全治理涉及技术标准、法律法规、应用安全、伦理规范等多重维度，监管框架完善的速度仍落后于技术发展应用的速度，治理难度与不确定性持续上升。
与此同时，“智能体”（Agent）技术正在重构安全攻防体系。从被动防御转向主动免疫，从单点防护升级为全域协同，智能体对网络安全正逐渐形成颠覆性影响。360集团创始人周鸿祎表示，当前企业面临双重挑战：一方面，安全运营专家稀缺且培养周期长；另一方面，“智能体黑客”的出现使攻防对抗进入“机器对机器”的新阶段——单个黑客可操控上百个智能体黑客，批量发起自动化攻击，加剧网络战风险。
安全防御从事后补救向事前预警跃升
“人工智能之于网络安全既是风险也是机遇。”国家互联网信息办公室原副主任任贤良指出，要在充分发挥人工智能潜力的同时确保其发展的安全性、可靠性、可控性和公平性，使其成为守护安全、造福人类的公共产品。
面对日益严峻复杂的威胁态势，传统被动、碎片化的安全防护已不足以抵御新的风险和挑战。对此，ISC名誉主席邬贺铨教授表示，安全能力必须加速向云端迁移和向服务化转型，实现弹性扩展与按需交付，让安全即服务成为保障数字世界的坚实屏障。要充分利用AI尤其是大模型的强大能力，赋能威胁狩猎、异常检测与自动化响应，推动安全防御从“事后补救”向“事前预警、事中阻断”的主动免疫模式跃升。
任贤良指出，除了安全漏洞供应链工具等传统安全风险外，大模型也存在自身的系统安全、内容安全以及幻觉等特有的风险。面对全球网络安全风险的新形势，我们必须把创新作为第一动力，促进科技成果的转化应用，提升算力资源的供给，鼓励模型算法创新，加速人工智能相关的技术与安全防护的深度耦合，赋能网络安全创新发展。
“大模型能力越来越强，但仅有大模型是不够的，大模型进化到智能体是必然的。”周鸿祎表示，安全智能体基于安全大模型这个“大脑”，为其增添了“手和脚”，在此次大会上发布的L4多智能体蜂群可实现对人类高级安全专家能力的复刻，是安全能力质的突破。
赵志国指出，要加强人工智能与安全产业的深度融合、双向赋能。一方面，以“人工智能+安全”深度融合培育壮大安全产业，发挥人工智能在数据处理、模式识别、告警研判、恶意软件识别等方面的优势，推动安全技术更新、路径升级、模式重塑，牵引市场主体、产业生态的发展壮大。另一方面，以安全能力建设保障人工智能产业发展壮大，加大智能算法漏洞检测、深度伪造防御、隐私计算等安全产品供给，加快工业互联网、5G等重点场景安全防御能力建设，织密人工智能应用的安全防护网，构建内生安全综合能力体系。
“要为人工智能行业高质量发展建立‘防护网’、扎好‘安全带’。”全国工商联党组成员、副主席罗来君表示，促进人工智能产业健康发展，要在兼顾安全和发展的基础上，把创新作为第一动力，把安全作为底线要求，把普惠作为价值追求，形成具有广泛共识的人工智能治理框架和标准规范，不断提升智能技术的安全性、可靠性、可控性和公平性。
“人工智能与网络安全的融合发展，是时代命题，是必答题而不是选择题，更是责任的担当。”赵志国表示，需要各界加强推动人工智能与安全产业的深度融合、双向赋能，坚持协同共治，形成安全发展合力。
