在深度学习以及自然语言处理的领域中，常见的微调方法主要包含以下几种：
Fine-tuning（全参数微调）：作为最为传统的微调方法，它需要对预训练模型里的所有参数进行更新，以此让模型能够适应特定的任务。这种方法通常能获取到最佳性能，不过其计算成本相对较高。 Prompt-tuning（提示微调）：该方法通过精心设计特定的输入提示（prompts），而非修改模型权重的方式来使模型适配下游任务。如此一来，模型能够在计算成本较低的情况下适应各种各样的任务。 Parameter-efficient fine-tuning（参数高效微调）：这组方法的核心在于仅对模型参数的一个子集或者新添加的一组参数展开训练，目的是减少所需的参数量以及计算资源。对于资源有限的环境而言，这些技术显得尤为重要。 Adapter Training（适配器训练）：适配器属于添加到预训练模型中的小型神经网络，用于针对特定任务展开微调工作。由于这些适配器仅仅占据原始模型大小的一小部分，所以训练速度更快，同时内存需求也更低。 Progressive Shrinking（渐进收缩）：此技术在微调期间会逐渐缩小预训练模型的规模，进而打造出比从头开始训练的模型性能更优的小型模型。 Prefix Tuning（前缀微调）：主要是学习特定任务的连续提示，在推理过程中将其添加至输入之前。通过对该连续提示进行优化，模型能够在不修改底层模型参数的前提下适应特定任务。 P-Tuning：涉及对可学习的“提示记号”参数展开训练，这些参数与输入序列相连接。这些提示记号是具有任务特异性的，在微调过程中对其进行优化，使得模型可以在保持原始模型参数不变的情况下，在新任务上有着良好的表现。
