微调(fine-tuning)
别名:微调、fine-tune、SFT
在预训练好的模型基础上,用专门数据继续训练,让它更擅长某类任务或语气。
例子想让模型稳定按公司格式写客服回复:拿几千条客服对话对基座模型做微调,输出风格就会贴近训练材料。
它是什么
它是什么:训练的第二阶段——预训练给语言能力,微调用小而专的数据(常见是指令与回答成对的 SFT 数据)调整行为。数据量远小于预训练,算力成本低得多。哪里会遇到:需要稳定输出格式或特定风格的产品;「在开源模型上做微调」是常见工程做法。
别名:微调、fine-tune、SFT
在预训练好的模型基础上,用专门数据继续训练,让它更擅长某类任务或语气。
它是什么:训练的第二阶段——预训练给语言能力,微调用小而专的数据(常见是指令与回答成对的 SFT 数据)调整行为。数据量远小于预训练,算力成本低得多。哪里会遇到:需要稳定输出格式或特定风格的产品;「在开源模型上做微调」是常见工程做法。