AI智能体与LLM能力不会必然导致AI失控

我们有证据表明：1） AI智能体非常擅长改进用于训练AI的软件 2） 大语言模型在许多领域可以达到超人水平 但这些并不能推导出"AI将强大到在N年内毁灭我们"的结论。我们预测的是不可避免的饱和，以及未知的未来突破。