Anthropic 研究员展示自我改进 AI：自动化系统可可靠缓解对齐失败

Anthropic 研究员 Chen Yueh-Han 团队发布论文，展示自动化系统在 10 个对齐基准上全部提升模型表现且不损害整体性能。系统模拟传统研究流程，搜索文献、提出方法并训练 30 分钟，迭代优化。论文称最佳 AAR 方法平均 6 小时内超越人类专家提议，成本约每小时 $4 API 推理，远低于人类研究员的 $150。