本文源自:金融界
金融界2025年6月28日消息，国家知识产权局信息显示，上海无问芯穹智能科技有限公司申请一项名为“大语言模型的推理方法、装置、电子设备及介质”的专利，公开号CN120218241A，申请日期为2025年03月。
专利摘要显示，本公开提供了大语言模型的推理方法、装置、电子设备及介质。所述方法包括：接收推理请求，并将推理请求的输入序列按固定词元数量划分为一个或多个逻辑块，其中输入序列是推理请求的提示词的词元序列；针对每个逻辑块：基于所述逻辑块的摘要值计算序列，计算所述逻辑块的摘要值作为第一摘要值，其中所述摘要值计算序列是从所述输入序列的起始词元到所述逻辑块的结尾词元的词元序列；判断是否存在与所述第一摘要值相同的第二摘要值，其中所述第二摘要值是在物理块中存储有KV缓存的已推理逻辑块的摘要值，所述物理块是用于KV缓存的存储空间；以及根据所述判断的结果，为所述逻辑块分配物理块；以及使所述大语言模型针对所述推理请求进行推理。
天眼查资料显示，上海无问芯穹智能科技有限公司，成立于2023年，位于上海市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本164.9588万人民币。通过天眼查大数据分析，上海无问芯穹智能科技有限公司共对外投资了4家企业，参与招投标项目9次，财产线索方面有商标信息32条，专利信息16条。
