MIT Technology Review · AI· Affan Syed·· 4 小时前AI 评分22
别再数 token 了,该数交付了多少软件
Stop counting tokens, start counting what ships
AI 导读
文章提出用「每个已合并 PR 的成本」替代 token 消耗量来衡量 AI 编程投入,并建议把复杂规划交给前沿模型、把代码生成与测试等常规工作路由到自托管开源权重模型。HPE 称其混合 AI 平台将 150 多个内部应用的常规负载迁至本地开源模型后,token 成本下降 30% 至 50%。文章还引用数据称同一许可证下用量最高的 5% 用户消耗量约为最轻用户的 450 倍。
来源:MIT Technology Review · AI · technologyreview.com