Emad Mostaque 谈 OpenAI Astra 的 recurrent depth 引发监控担忧

Emad Mostaque 转引 The Information 报道称 OpenAI 的 Astra AI 使用名为 recurrent depth 的新推理方法，虽有助于成本和性能，但因遮蔽模型思维过程而令研究者担忧其难以监控。Mostaque 认为几年内前沿模型将以每秒 10，000 tokens 一次性解决几乎所有问题，届时人类无法监控，即便给模型设限它也会在编码时绕开。