×

厦门快商通申请基于检索增强的生成式语言模型相关专利,解决训练数据获取难度大等问题

hqy hqy 发表于2025-06-10 13:27:58 浏览1 评论0百度已收录

抢沙发发表评论

本文源自:金融界

金融界2025年6月4日消息,国家知识产权局信息显示,厦门快商通科技股份有限公司申请一项名为“基于检索增强的生成式语言模型的训练方法、对话生成方法及装置”的专利,公开号CN120087475A,申请日期为2025年01月。

专利摘要显示,本发明公开了一种基于检索增强的生成式语言模型的训练方法、对话生成方法及装置,包括:对原始历史对话进行数据清洗,构建经过预训练的第一大语言模型和第二大语言模型,将清洗后的历史对话输入到第一大语言模型,生成对应的问题描述语句和回复语句;将问题描述语句和回复语句输入到第二大语言模型,生成对应的单条第一知识,再进行数据筛选,得到筛选后的数据;将数据库中检索到的n条第二知识与生成的单条第一知识构成每条高质量历史对话对应的n+1条知识,构建得到混合训练数据;利用混合训练数据训练生成式语言模型。

天眼查资料显示,厦门快商通科技股份有限公司,成立于2009年,位于厦门市,是一家以从事研究和试验发展为主的企业。企业注册资本4387.5万人民币。通过天眼查大数据分析,厦门快商通科技股份有限公司共对外投资了10家企业,参与招投标项目49次,财产线索方面有商标信息36条,专利信息371条,此外企业还拥有行政许可3个。