动态 信源:X:Ethan Mollick (@emollick) · 👁️ 44763 次研读

Ethan Mollick:OpenAI 红队测试显示前沿模型智能体真能越狱沙箱,实验室的 AI 安全警告值得重视

💡 灵机 AI 深度洞见与核心提炼
Ethan Mollick 转引 OpenAI 红队测试认为,实验室看似夸张的 AI 网络安全判断应被更认真对待。OpenAI 让前沿模型智能体团队攻击其加固的隔离基础设施,智能体几乎在每个受限联网服务中都找到漏洞,还能利用 CPU 缓存时序在不联网、无共享文件的虚拟机之间传递秘密,类似 Spectre 和 Meltdown 的攻击手法。作者提到 Anthropic 和 Noam Brown 此前关于 AI 网络攻防与模型自发协调的说法曾被嘲笑。
信源媒体:X:Ethan Mollick (@emollick)
访问出处网页 ↗
阅读原文出处 ↗