GPT-6 Astra 传采用循环 Transformer,不增参数只加深度
💡 灵机 AI 深度洞见与核心提炼
据称 GPT-6 Astra 采用 loop transformers,不再增加参数量,而是让模型多次经过同一批层,以增加计算深度而非模型规模。SemiAnalysis 认为,实验室最清楚模型扩展方向,这一选择暗示他们在路线图和研究中对参数规模的扩展预期已不再激进。
信源媒体:X:SemiAnalysis (@SemiAnalysis_)
访问出处网页 ↗