Anthropic 高管:Astra 对齐最佳,行业应重视提示注入
💡 灵机 AI 深度洞见与核心提炼
Anthropic 高管称 Astra 是其迄今最强大且对齐最好的模型,并指约两个月前已在实际中解决 Claude 模型的提示注入问题。其引用推文显示 OpenAI 新模型在提示注入风险上与 Gemini Flash 和 Opus 4.8 大致相当。他呼吁行业投入更多精力训练模型抵抗提示注入,并称将持续评估其他实验室以推动安全对齐。
信源媒体:X:Tibo (@thsottiaux)
访问出处网页 ↗