Anthropic 研究员警示 RSI 模型灭绝风险

Anthropic 对齐研究员公开警示，具备 RSI（递归自我改进）能力的未来模型可能带来生存风险，并称"我们确实认真相信 AI 可能杀死全人类，个人认为十年内概率超 10%"。相关人士批评"两家公司都未尽责"，并承认尚无解决超级智能对齐问题的明确方案。