金融界2025年7月17日消息,国家知识产权局信息显示,上海稀宇科技有限公司申请一项名为“一种语言模型的推理优化方法及装置”的专利,公开号CN120317376A,申请日期为2024年08月。
专利摘要显示,本申请提供了一种语言模型的推理优化方法及装置,所述推理优化方法包括:响应于获取到请求利用预设的语言模型对输入信息进行推理的至少一个请求信息,将第一请求信息按照预设长度划分为多段请求信息;对多段请求信息和第二请求信息进行分批合并,利用语言模型对多段请求信息和第二请求信息进行零冗余全量推理和混合推理,得到多个第一推理结果,第二请求信息为与第一请求信息同时获得或者对多段请求信息进行全量推理或混合推理过程中获取到的至少一个请求信息;利用语言模型对多个第一推理结果进行增量推理,得到语言模型对输入信息进行推理所输出的推理结果。
天眼查资料显示,上海稀宇科技有限公司,成立于2023年,位于上海市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本203.0303万人民币。通过天眼查大数据分析,上海稀宇科技有限公司共对外投资了1家企业,参与招投标项目2次,财产线索方面有商标信息93条,专利信息13条,此外企业还拥有行政许可2个。
本文源自金融界