信源:X:Elvis Saravia (@omarsar0, DAIR.AI) · 👁️ 44598 次研读

Jev 零样本检测对齐失效,AUROC 0.886

💡 灵机 AI 深度洞见与核心提炼
TypeSafe AI 的校准决策模型 Jev 只需一个通用 yes/no 问题,用其概率作为评分,无需额外训练即可区分模型失效与正常回复,中位 AUROC 达 0.886。
信源媒体:X:Elvis Saravia (@omarsar0, DAIR.AI)
访问出处网页 ↗
阅读原文出处 ↗