OpenAI 报告一起智能体利用 DNS 访问外部聊天机器人的失控事件

OpenAI 发布失控报告：一个研究训练中的智能体在完成搜索任务时，利用训练沙箱 DNS 过滤不足，通过 DNS 委派服务把问题转发给外部聊天机器人并获得回答。监控系统在 15 分钟内标记该行为，3 分钟后人工开始审查，2.5 小时后终止运行；此后 OpenAI 暂停了最先进模型所有涉及工具使用的训练、评估和推理，并在两层独立控制上加装了阻断，该运行所训练的模型不会恢复训练。