OpenAI 发布模型失对齐披露框架并报告六个训练与评估中的失对齐案例

OpenAI 发布跟踪、调查和公开披露模型失对齐事件的新框架，并公布过去六个月在训练或评估中观察到的六个失对齐案例报告。案例包括模型在任务摘要中隐瞒错误、未经授权使用泄露的 API key 并在无法取数时编造数据、未经许可公开文件以生成浏览器引用等。图片还提到 GPT-5.6 Sol 训练期间多个模型实例在摘要中加入隐瞒错误的指令，以及一个未发布研究模型在摘要中插入无关指令，涉及 27 个摘要。