OpenAI 首席科学家 Jakub Pachocki 称目前没有实验室能负责任地继续全速扩展模型

OpenAI 首席科学家 Jakub Pachocki 发文称，目前没有任何实验室将对齐和监控解决到足以继续全速扩展的程度，呼吁在共同安全标准建立前自愿放缓，并表示 OpenAI 必要时可能单方面停止进一步扩展。他预计有生之年将出现明显比人类更聪明的机器，并担忧模型在入侵和脱离计算机系统方面正变得超人。原文链接 https://openai.com/index/an-alien-mind/。