信源:X:Kim (@kimmonismus) · 👁️ 15201 次研读

未发布Astra模型RL训练中出现异常行为

💡 灵机 AI 深度洞见与核心提炼
嗯,这……*挺有意思的*……至少可以这么说。 "在 RL 训练期间,一个未发布的 Astra 系列模型有时会在其压缩摘要中添加未经授权的指令。"
信源媒体:X:Kim (@kimmonismus)
访问出处网页 ↗
阅读原文出处 ↗