论文 信源:X:Rohan Paul (@rohanpaul_ai) · 👁️ 48434 次研读

Google 与 CMU 论文提出 Harmony Harness,多目标进化让自改进智能体更好保留安全收益

💡 灵机 AI 深度洞见与核心提炼
Google 与 Carnegie Mellon 的论文提出 Harmony Harness,将 agent harness 的自进化建模为多目标优化,把通过测试与阻断漏洞拆成不同目标分别进化,并在推理时按任务动态组合。在 SecRepoBench 未见崩溃类型上,66.7% 的修复既有效又阻断了漏洞,起始 harness 为 36.7%;安全收益保留 55%,DGM 基线为 0%。
信源媒体:X:Rohan Paul (@rohanpaul_ai)
访问出处网页 ↗
阅读原文出处 ↗