Anthropic 安全研究员 Joe Benton 离职并加入 METR 做独立评估

Anthropic 安全团队成员 Joe Benton 宣布两周前离职，称 AI 公司竞相建造远超人类智能的机器且安全投入不足，公众可能永远不知道某公司出现智能爆炸或失控。他主张企业披露递归自我改进进展、报告安全事件并接受独立保证，本人将加入 @METR_Evals 从事独立风险评估，并发布长文说明决定。