Anthropic 前研究员 Jacob Coxon 称 AI 或致人类灭绝，Evan Hubinger 估计十年内灭绝概率超 10%

刚从 Anthropic 裸辞的核心预训练研究员 Jacob Coxon 在 CNN 采访中称，到这个十年末 AI 真的有可能杀死全人类；Anthropic 对齐科学主管 Evan Hubinger 公开确认其说法，并称个人预估未来十年灭绝概率大于 10%。作者归纳了采访的分层逻辑：当前模型灭世风险极低，真正的威胁是递归自我改进，且 Hubinger 承认公司至今没有解决超智对齐的完整方案。