博世申请对机器学习系统的可解释性方法进行验证的方法和装置专利，用于对机器学习系统的基于归因的可解释性方法进行验证

本文源自:金融界

金融界2025年6月23日消息，国家知识产权局信息显示，罗伯特·博世有限公司申请一项名为“对机器学习系统的可解释性方法进行验证的方法和装置”的专利，公开号CN120181258A，申请日期为2024年12月。

专利摘要显示，对机器学习系统的可解释性方法进行验证的方法和装置。用于对机器学习系统的基于归因的可解释性方法进行验证的方法。该方法开始于：借助于生成器根据噪声向量确定合成数据点。接着通过该机器学习系统传播该合成数据点来确定机器学习系统的输出，并且针对所确定的输出借助于基于归因的可解释性方法确定解释输出。接着确定该解释输出的分数。接着关于该分数优化该噪声向量，使得该分数移动到分数分布的尾部。接着借助于生成器(1)根据经过优化的噪声向量来确定其它合成数据点。接着通过机器学习系统传播其它合成数据点来确定机器学习系统的另一输出，并且针对所确定的该另一输出借助于基于归因的可解释性方法来确定另一解释输出。