金融界2025年7月18日消息，国家知识产权局信息显示，华为云计算技术有限公司申请一项名为“一种大语言模型的推理方法以及装置”的专利，公开号CN120338090A，申请日期为2024年02月。
专利摘要显示，本申请实施例公开了一种大语言模型的推理方法以及装置，用于降低大语言模型的推理的带宽消耗。本申请实施例方法包括：计算设备获取运行在多个处理器上的大语言模型的输入数据，输入数据包括用户的输入文本和基于输入文本生成的参考信息，参考信息包括输入文本对应的领域相关知识和输入文本对应的时效性信息。基于输入数据在共享存储池中匹配历史键值缓存数据，确定输入数据对应的键值缓存数据，历史键值缓存数据用于指示大语言模型在处理不同历史输入数据时生成的中间数据，共享存储池用于存储多个处理器生成的历史键值缓存数据，不同历史输入数据包括历史输入文本和历史输入文本对应的参考信息。根据键值缓存数据生成输入数据对应的输出结果。
天眼查资料显示，华为云计算技术有限公司，成立于2019年，位于贵阳市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本500000万人民币。通过天眼查大数据分析，华为云计算技术有限公司共对外投资了9家企业，参与招投标项目1145次，财产线索方面有商标信息331条，专利信息3512条，此外企业还拥有行政许可53个。
本文源自金融界
