×

上海曲速超为申请大模型混合专家系统专利,提升大模型应用效果

hqy hqy 发表于2025-05-17 17:44:36 浏览8 评论0百度已收录

抢沙发发表评论

金融界2025年5月13日消息,国家知识产权局信息显示,上海曲速超为技术有限公司申请一项名为“一种大模型混合专家系统、其构建方法及专家选择方法”的专利,公开号CN119962579A,申请日期为2024年10月。

专利摘要显示,本发明公开了一种大模型混合专家系统,所述混合专家系统基于transformer架构,并融合了混合专家结构,包括:多层transformer架构的基本单元,每层所述基本单元中包含自注意力结构和线性前馈结构;所述混合专家结构融合在所述线性前馈结构中;第一层基本单元中设置有专家路由模块,所述专家路由模块中包括句意级别路由部分和token级别路由部分;所述句意级别路由部分用于选择适配的专家群组,所述token级别路由部分用于选择所述专家群组中的具体专家。本发明还公开了上述大模型混合专家系统的构建方法、专家选择方法。

天眼查资料显示,上海曲速超为技术有限公司,成立于2023年,位于上海市,是一家以从事科技推广和应用服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,上海曲速超为技术有限公司财产线索方面有商标信息1条,专利信息21条。

本文源自金融界