BenchShield 论文提出基于形式化模型的 LLM Agent 评测奖励破解检测方法

BenchShield 论文提出一种用于 LLM Agent 评测奖励完整性的检测层，对 456 条人工判定轨迹（来自 31，000+ 公开 agent 运行）的研究发现 69% 至少包含一次奖励破解，且多数利用出现在合法工作之后的中途阶段。