罗伯特·博世申请基于大型语言模型的领域特定对话系统的幻觉检测和处理专利，改进基于 LLM 的 QA 系统的可靠性

本文源自:金融界

金融界 2025 年 2 月 21 日消息，国家知识产权局信息显示，罗伯特·博世有限公司申请一项名为“基于大型语言模型的领域特定对话系统的幻觉检测和处理”的专利，公开号 CN 119493841 A，申请日期为 2024 年 8 月。

专利摘要显示，本公开涉及基于大型语言模型的领域特定对话系统的幻觉检测和处理。本文描述了用于检测和减少幻觉并且改进基于 LLM 的 QA 系统的可靠性的系统和方法。特别地，本公开提供解决了 QA 系统的不同类型的幻觉的幻觉检测和处理方法集合。本文描述的幻觉检测方法包括借助于句子相似度估计和关键词匹配将自然语言答案与上下文信息进行比较。本文描述的幻觉处理方法包括取决于在自然语言答案中检测到的幻觉水平，从自然语言答案移除幻觉句子或者使用更好的上下文信息重新生成自然语言答案。还提供了一种混合框架，其系统地将幻觉检测方法和幻觉处理方法组合到一个系统中，以实现用于 QA 系统的最佳幻觉减少性能。