技巧 信源:Hacker News 热门(buzzing.cc 中文翻译) · 👁️ 14471 次研读

little-lm 以 998 美元将 3.8B LLM 训练至 CORE 0.384 的完整复盘

💡 灵机 AI 深度洞见与核心提炼
工程师以约 998 美元、8× B200 上 43 小时、65B tokens 训练 3.8B 参数模型 little-lm,CORE 得分 0.384,超过 GPT-2 1.5B 的 0.2565 和 nanochat d32 的 0.310。
信源媒体:Hacker News 热门(buzzing.cc 中文翻译)
访问出处网页 ↗
阅读原文出处 ↗