Ai2 发布 Olmo-core 3 开源 MoE 训练框架

Ai2 发布 Olmo-core 3，这是支持大规模混合专家（MoE）训练的开源框架，已验证可扩展至万亿参数级别。在 8 张 NVIDIA B300 GPU 上，47B 参数 MoE 吞吐达 52,000 tokens/秒/GPU，约为旧 FSDP 实现的 2.7 倍；专家池从 8 扩至 128 而训练吞吐下降不足 5%。