Anthropic 与 Gray Swan 合作举办 30 万美元间接提示词注入红队挑战赛

Boris Cherny 转发 Gray Swan 与 Anthropic、Meta、Google DeepMind、Reflection 等合作举办的间接提示词注入红队挑战赛，总奖金池 30 万美元。比赛名为 Indirect Prompt Injection: Black，分三波于 10 月 15 日、10 月 22 日和 10 月 29 日进行。Cherny 表示 Claude 模型在提示词注入方面近年已有显著进展，随着智能体承担更多任务，全行业解决该问题愈发紧迫。