Nathan Lambert 质疑前沿 AI 节奏控制可行性

我认为从原则上讲，控制前沿发展节奏作为一个理念是好的，但作为一件你实际能做成的事，它一出生就死了。我们要怎么决定——决定我们能在哪些基准上改进？谁来参与？ 如果我们停止推进“能力”，我们会做大量关于集群（swarms）+ 效率的研究，而这会带来其他风险。 它分散了注意力，让人忽视了一个事实：AI 风险中有很大一部分其实只是来自把我们已有的东西扩散出去，而我们应该投资于 preparedness、推动实验室更加谨慎等等。 来改变我的想法？