OpenAI 首席科学家 Jakub Pachocki 预期进展速度可能延续至递归自我改进

作者引用 OpenAI 首席科学家 Jakub Pachocki 的话称，基于内部结果，他强烈预期当前进展速度可能延续至递归自我改进（RSI），OpenAI 正围绕这一点组织研究。同时 Pachocki 表示评估显示思维链监控的可靠性在下降，认为需要更广泛的干预，并引用 Ray Kurzweil 称机器智能正开始以变革性方式超越人类。