Q Labs Research 提出无反向传播的预训练方法 Dust

Q Labs Research 发布 Dust，一种零阶优化方法，通过在每个 token 上独立扰动激活（虚拟种群）预训练 GPT 式 Transformer，无需反向传播。