信源:X:Rohan Paul (@rohanpaul_ai) · 👁️ 47281 次研读

AI 智能体 token 消耗或 2030 年增长 24 倍

💡 灵机 AI 深度洞见与核心提炼
高盛预计 AI 智能体的 token 用量到 2030 年将增长 24 倍,月消耗量或达 120 quadrillion,而每 token 推理成本每年下降 60%-70%。Uber 和微软已开始重新审视昂贵的智能体使用成本:智能体需规划、调用工具、检查结果并反复纠错,单次请求的 token 消耗可达普通问答的 10 倍、50 倍甚至更多。纳德拉此前表示,智能体市场规模可能比云大数个数量级。
信源媒体:X:Rohan Paul (@rohanpaul_ai)
访问出处网页 ↗
阅读原文出处 ↗