OpenAI 智能体安全团队 @joedaroo 谈 AI 能力突跳带来的安全挑战

OpenAI 智能体安全团队的 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关事件上的能力跳变之突然远超预期，而安全态势需要时间积累，不只是加固系统，还要把它植入公司文化。他呼吁各组织自问：人员、系统和流程能否应对 AI 能力的突然跃升，是否有正确的事件响应、沟通机制和待命人员。