Anthropic 研究员 Jacob Coxon 离职并警告自我改进 AI 可能毁灭人类

AI 研究员 Jacob Coxon 在社交媒体宣布离开 Anthropic，并警告前沿 AI 公司用可能在十年内毁灭人类的系统拿所有人的生命做赌注。他认为风险主要来自即将到来的自我改进超级智能，即能入侵一切系统、一夜革命任何领域并获得真实权力与资源的超人系统；同行要么没意识到文明层面的利害，要么认为必须抢在不负责任的对手之前竞速。