Cerebras 芯片速度优势与推理市场之争

在 @Cerebras Supernova 上与 @milksandmatcha 坐下来聊了聊芯片。 每个人都在下不同的推理赌注。 有人想要便宜的 token，有人想要速度。 NVIDIA 在吞吐量上难以被击败，但在速度上还有巨大空间。 Cerebras 是个话痨。这些晶圆真的说话很快。