Meta 首席 AI 官：对齐问题尚无解，靠可扩展监督

Meta 首席 AI 官 Alexandr Wang 表示，AI 对齐目前仍是科学上最开放的难题之一，没人知道确切解法。他提出的思路是"可扩展监督"：用不同的 AI 去观察并约束更聪明的 AI，监督方也需随之不断升级，即打造"越来越聪明的监管智能体"。Meta 的 Muse 已采用该方案的一个版本，用独立的哨兵智能体检查主智能体的行为。