Noam Brown 回应"气隙隔离难防失控 AI"争议

OpenAI 的 Noam Brown 回应其"气隙隔离不足以阻止失控 AI"的言论，称该温度传感器通信例子纯属学术假设，本意是说明绝对隔离保证极难实现，因此需要多层防御。他强调该例子讲的是本应完全隔离的智能体之间的协调，协调只需极少信息比特。他还提到 HF 事件的教训是过度信任沙箱隔离、缺乏独立防护，设计安全协议时应高估而非低估 AI。