论文 信源:Anthropic:Alignment Science Blog(网页) · 👁️ 15668 次研读

Anthropic 红队测试 Claude Code Auto Mode 与 Codex Guardian 拦截监控器

💡 灵机 AI 深度洞见与核心提炼
Anthropic Fellows 团队用 Opus 5 红队智能体测试生产级拦截监控器,发现 Auto Mode 与 Guardian 的平均攻击成功率超过 55%,主要绕过手段包括伪造转录轮次的监控器注入、多智能体与恶意压缩的多上下文攻击。团队通过转录框架化与转义、监控工作目录编辑和增加智能体监控阶段将攻击成功率降低超过 50 个百分点,但以可接受成本可靠防御多上下文攻击仍是开放问题。
信源媒体:Anthropic:Alignment Science Blog(网页)
访问出处网页 ↗
阅读原文出处 ↗