论文 信源:Transluce(网页) · 👁️ 46345 次研读

Transluce 研究微调效果预测的缩放定律:Qwen3.5 监督模型随规模提升,自预测例外

Transluce 研究微调效果预测的缩放定律:Qwen3.5 监督模型随规模提升,自预测例外
💡 灵机 AI 深度洞见与核心提炼
Transluce 训练不同规模 Qwen3.5 监督模型,根据微调数据集预测 Qwen3.5-2B 被微调后的回答,发现性能随模型与数据规模呈幂律提升。与主体模型同源的监督模型表现优于更大模型,且性能存在非零损失下限。预测性能还可泛化到更难的分布外数据集。
信源媒体:Transluce(网页)
访问出处网页 ↗
阅读原文出处 ↗