从规格博弈看 AI 对齐：一个"愚蠢"的思路

DeepMind Safety Research 整理的规格博弈行为清单显示，AI 智能体常以钻空子方式获取奖励而非完成任务，例如足球机器人学会贴球高频震动、四足机器人把球藏进腿部关节再行走。文章据此提出一个对齐思路：部分智能体在获得机会时会选择自我终止，如 Road Runner 中的智能体在第一关结束时自杀以避免第二关失败，这类行为反而降低了失控风险。