×

天翼云申请文本生成模型的训练方法及装置专利,可训练得到预先训练好的文本生成模型

hqy hqy 发表于2025-04-21 07:37:10 浏览6 评论0百度已收录

抢沙发发表评论

本文源自:金融界

金融界2025年4月17日消息,国家知识产权局信息显示,天翼云科技有限公司申请一项名为“文本生成模型的训练方法及装置”的专利,公开号CN 119830001 A,申请日期为2024年11月。

专利摘要显示,本发明涉及神经网络技术领域,公开了文本生成模型的训练方法及装置。该方法包括:获取训练语句集;对训练语句进行预处理,得到目标训练语句;将目标训练语句输入初始文本生成模型,基于编码器和解码器依次对目标训练语句进行编码和解码,生成预测文本;基于预测文本和参考文本,构建基础损失函数;根据预设的枢轴点对预测词语在预测语句中的位置进行划分,得到第一目标位置和第二目标位置;基于第一指示函数、第一系数、第二指示函数、第二系数、预测词语的概率分布,确定目标损失函数;根据目标损失函数对初始文本生成模型的编码器和解码器进行训练,直至收敛,得到预先训练好的文本生成模型。

天眼查资料显示,天翼云科技有限公司,成立于2021年,位于北京市,是一家以从事互联网和相关服务为主的企业。企业注册资本476399万人民币。通过天眼查大数据分析,天翼云科技有限公司共对外投资了4家企业,参与招投标项目1961次,财产线索方面有商标信息13条,专利信息4232条,此外企业还拥有行政许可16个。