MIT Technology Review · AI· Affan Syed·· 7 小时前AI 评分33
AI 编程别再只算 token,转向衡量交付的软件
Stop counting tokens, start counting what ships
AI 导读
AI 编程智能体在多轮迭代中消耗的 token 可达基础对话的 10 至 50 倍,企业应转向以每个合并 PR 的成本衡量实际交付成果。通过网关将复杂推理分流至前沿模型、将常规任务转至本地开源权重模型,能够有效改善高频调用的边际成本。例如 HPE 借助混合架构在逾 150 个内部应用中将 token 成本降低了 30% 至 50%。
来源:MIT Technology Review · AI · technologyreview.com