灵
灵机 FeedHub
🌙
← 返回 AI 资讯大厅
📰 今日早报 ↗
← 返回 AI 资讯大厅
10月23日 14:35
技巧
信源:
X:马东锡 NLP (@dongxi_nlp)
· 👁️ 21310 次研读
马东锡解析 Instruction Tuning 的 SFT 训练目标
💡 灵机 AI 深度洞见与核心提炼
马东锡在“后训练系列第二篇”中讲解 Instruction Tuning:SFT 沿用预训练目标,即在每个位置预测下一个 token,用 cross-entropy loss 衡量预测与正确 token 的差距,训练以提高正确 token 概率。
信源媒体:
X:马东锡 NLP (@dongxi_nlp)
访问出处网页 ↗
阅读原文出处 ↗
📋 复制分享链接
← 返回大厅