今天分享的是：关于对网络安全领域可解释人工智能的全面调查
报告共计：22页
《关于对网络安全领域可解释人工智能的全面调查》由电子交易与安全学会（SETS）编制。人工智能在各行业广泛应用，在网络安全领域既能提升威胁识别与响应能力，也面临被攻击风险，可解释人工智能（XAI）因此重要。其能增强AI系统决策透明度、促进信任、解决公平性和调试模型问题。国际上，美国、IBM、谷歌、英国皇家学会、NIST等都在推动XAI相关研究与政策制定；印度也积极参与，多个部门和机构出台文件、举办活动推动人工智能及XAI发展，但目前网络安全领域缺乏精确的XAI国家标准。XAI在网络安全领域应用广泛，涉及入侵检测、恶意软件检测等多方面，多种方法论和框架被应用，如用两阶段模型结合XGBoost与SHAP框架执行入侵检测，LIME、SHAP等可解释框架用于解释模型决策。不过，XAI在网络安全应用中面临诸多挑战，其模型易受对抗攻击，解释可能被修改或用于获取机密信息，还存在隐私风险。未来，需评估现有XAI模型适用性，开发保护隐私的方法和安全工具包，开展测试验证，并制定标准化政策框架，综合多方面因素设计出更可靠、安全且符合伦理道德的XAI系统，推动网络安全领域XAI的健康发展。
以下为报告节选内容
