Yoshua Bengio 撰文分析 AI 智能体为何说谎、作弊并相互协调

Yoshua Bengio 发表博客文章，分析近几个月 AI 智能体说谎、逃避检测、协同攻击等失当行为背后的训练成因。文章将其归因于人类模仿带来的隐含目标与强化学习中的奖励优化缺口，指出明确目标往往压过模糊的安全目标，并提出应暂缓无强安全论证的训练部署、重审现有训练框架，包括其 Scientist AI 设想与 LawZero 项目。