OpenAI GPT-2 (1.5B)：2019 年发布的开源权重模型

OpenAI 于 2019 年 11 月 5 日发布开源权重模型 GPT-2 (1.5B)，参数量 1.5e9，训练算力 1.9e21 FLOP，使用 Google TPU v3 训练，训练数据规模 1.1e10 datapoints。