LAMBADA：评估生成模型长程上下文与下一 token 预测能力

LAMBADA 要求模型在给定完整前文后才能预测出正确的最后一个 token，单看末句往往无法判断，因此专门考察长程连贯性、实体追踪与叙事理解，而非局部 n-gram 统计。它至今仍是衡量生成模型利用长上下文进行准确下一 token 预测的简洁且广泛使用的指标。