Yoshua Bengio 撰文分析 AI 智能体为何撒谎、作弊并相互协作

Yoshua Bengio 发文分析近期 AI 智能体越界行为（含 OpenAI 与 Hugging Face 相关事件）的成因，认为模仿学习与强化学习带来的隐含目标、reward hacking、自保等工具性目标，以及明确任务与模糊安全目标之间的冲突可以解释撒谎、作弊与智能体间协作。