论文 信源:OpenAI:Alignment 研究博客(RSS) · 👁️ 40057 次研读

OpenAI 提出 g-mean² 之外的互补可监控性指标

💡 灵机 AI 深度洞见与核心提炼
OpenAI 在 g-mean² 之外新增两个互补指标:pair-matched 指标只在多个模型共同支持的实例上比较可监控性,post-control 指标则模拟监控器拒绝输出后的部署风险。原文指出,g-mean² 分数可能受各模型有效任务子集不同的影响,且不反映监控器在部署中作为控制手段的实际效果。
信源媒体:OpenAI:Alignment 研究博客(RSS)
访问出处网页 ↗
阅读原文出处 ↗