金融界2025年5月17日消息，国家知识产权局信息显示，SAP欧洲公司申请一项名为“用于大型语言模型的通过最小化的有效载荷的令牌优化”的专利，公开号CN119990061A，申请日期为2023年12月。
专利摘要显示，在示例实施例中，通过将中间文件格式用于向大型语言模型(LLM)的输入提示或从大型语言模型(LLM)的输出(或两者)来提供解决方案。该中间文件格式是具有可最小化的属性的文件格式，这意味着包含在该中间文件格式的文件中的令牌可以被剥离或以其他方式移除，而不改变文件的语义含义。输入提示可以以该中间文件格式被创建或被转换为该中间文件格式，然后在被发送到LLM以进行文本生成之前被最小化。此外，和输入提示一起包括的系统消息可以指导LLM以最小化的形式生成中间文件格式的文本。然后可以包括专用解析器以解析由LLM产生的最小化的输出。
本文源自金融界
