金融界2024年11月28日消息，国家知识产权局信息显示，支付宝（杭州）信息技术有限公司申请一项名为“网络模型的预训练方法图像处理方法及系统”的专利，公开号 CN 119026637 A，申请日期为 2024 年 7 月。
专利摘要显示，本说明书提供一种网络模型的预训练方法、图像处理方法及系统。其中，预训练方法应用于预设网络，预设网络包括教师模型、完整学生模型、弹性学生模型。在不同次迭代训练中，弹性学生模型基于不同的超参数使之成为完整学生模型的子网络。在第 n 次迭代训练中：将第一视角图像输入至教师模型，获得第一预测结果，将第二视角图像输入至完整学生模型和弹性学生模型，获得完整学生模型输出的第二预测结果和弹性学生模型输出的第三预测结果，以最小化第一预测结果和第二预测结果的差异、第一预测结果和第三预测结果的差异、第二预测结果和第三预测结果的差异为训练目标更新预设网络参数。经本方法得到的教师模型用于提供与不同的超参数各自对应的模型。
