AI 编程别再只算 token，转向衡量交付的软件
AI 编程智能体在多轮迭代中消耗的 token 可达基础对话的 10 至 50 倍，企业应转向以每个合并 PR 的成本衡量实际交付成果。通过网关将复杂推理分流至前沿模型、将常规任务转至本地开源权重模型，能够有效改善高频调用的边际成本。例如 HPE 借助混合架构在逾 150 个内部应用中将 token 成本降低了 30% 至 50%。
#部署/工程
#部署/工程
今日 0 条MIT Technology Review · AIAI 评分3333
Latent SpaceAI 评分7171 为什么 AI Agent 偏爱 Supabase
Latent Space 专访 Supabase 联合创始人，深入探讨了 AI Agent 普遍选择 Supabase 作为应用后端的架构原因与产品演进。文章指出无需 Docker 的本地运行时、存放在 Git 中的声明式 Schema，以及紧邻数据库运行容器的 Supabase Compute，极大降低了 Agent 自主搭建与调试环境的摩擦。
Latent Space精选AI 评分7676 Anthropic 如何安全交付前沿模型：将“大脑”与 Agent 的“双手”解耦
Anthropic 团队成员在 Latent Space 访谈中拆解了 Claude 平台的工程架构，核心是通过将模型的大脑与 Agent 执行动作的双手解耦来保障系统安全。对话深入讨论了 Claude Opus 5.5 的发布背景、用 Rust 重构 Messages API、沙箱与凭据隔离机制，以及应对长运行 Agent 跨上下文窗口维护状态的 Harness 方案。
推荐理由：访谈拆解了模型思考与 Agent 执行沙箱解耦的工程隔离方案，为构建安全可靠的 Agent 基础设施提供了具体参考。
Latent SpaceAI 评分6868 Anthropic 团队访谈：如何以“大脑与双手分离”架构交付 Claude 与智能体
Anthropic 工程与产品团队在访谈中复盘了 Opus 5.5 的发布流程，重点介绍了在安全防御、API 演进及 Managed Agents 架构上的工程实践。团队详细阐述了将智能体会话控制层与代码执行沙盒物理隔离的设计，有效避免了沙盒崩溃波及全局并防止运行凭据泄漏。此外，团队还探讨了通过跨轮次保留思考块来防御模型蒸馏攻击，以及依托早期客户 harness 开展非确定性评测的经验。
MIT Technology Review · AIAI 评分3030 如何构建经久耐用的企业级 AI 推理服务架构（Serving Harness）
企业 AI 的核心竞争优势正从基础模型选型转向模型周边的推理服务架构（Serving Harness）。架构设计需以具体工作负载为起点，权衡延迟、并发、显存压力、GPU 利用率和推理成本等实际生产约束。通过系统性优化架构、内存管理与调度，企业能在保障稳定规模化交付的同时灵活适应未来软硬件升级。
MIT Technology Review · AIAI 评分1818 可扩展 AI 的基石：如何在强监管环境中构建可信系统
先锋领航集团（Vanguard）AI 与洞察中心负责人 Jing Wang 在麻省理工科技评论 EmTech Future 大会上，探讨了在高度监管环境中构建可扩展 AI 系统的基石。该议题聚焦于将数据、工程、平台、运营模式与治理相融合，通过负责任且可信的实施方式，将包括 AI 智能体系统在内的新兴技术转化为持久的投资价值。
Latent SpaceAI 评分7070 专访 Modal CEO：AI 算力合约错配与智能体沙盒演进
Modal CEO Erik Bernhardsson 在专访中解析了公司突破 10 亿美元年化收入背后的基建逻辑，指出真实算力需求呈现高波动性，与传统按固定时长采购的矩形 GPU 合约存在本质错配。
Latent SpaceAI 评分5757 Tenex 详解如何为财富 2000 强构建 AI 原生软件开发流程
Tenex 团队在 Latent Space 访谈中阐述了其 AI 原生软件开发生命周期体系，主张按交付产出而非工时付酬以应对 AI 带来的研发效率提升。团队介绍了将设计规划与决策记录共同提交至 Git 的 MetaHarness 工作流，使长程任务中的 AI 智能体能随时理解业务上下文。此外，访谈还指出企业落地智能体最大的瓶颈在于非研发流程缺乏标准化以及数据权限管控难题。
Latent SpaceAI 评分6060 专访 SF Compute 创始人 Evan Conrad：构建可编程数据中心与 GPU 算力交易市场
SF Compute 首席执行官 Evan Conrad 在访谈中阐述了 GPU 算力交易市场的运作逻辑，强调算力交易必须依托类似云厂商的实际运营能力实现物理交割，而非单纯的现金指数结算。他指出当前硬件异构使得算力难以完全标准化，平台通过支持多维约束的撮合引擎和动态划分 InfiniBand 等技术实现灵活交易，并认为中立交易市场必须独立于芯片巨头与大型云厂商以避免利益冲突。
MIT Technology Review · AIAI 评分2020 企业 AI 的新经济学
企业 AI 评估指标正从单一 token 或 GPU 成本转向每个有效业务成果的实际成本。提升经济效益的核心在于算力利用率，单纯拥有 GPU 不等于降本，需通过模型路由、GPU 分区和 KV cache 管理等手段降低闲置浪费。随着业务常态化，集成私有 AI 平台与自持算力在高负载下比单纯按需租用具备更优的单位产出成本。
量子位AI 评分6363 亚马逊CTO Werner Vogels：别让恐惧替企业做AI决策，应聚焦业务需求与工程边界
亚马逊 CTO Werner Vogels 表示，企业不应因焦虑盲目跟风引入 AI，而需先想清楚实际业务需求与技术匹配度。他结合 DynamoDB 和 Nitro 等工程经验指出，不必盲目追逐大模型榜单，较小模型和开放权重模型往往更具成本效益。针对 Agent 落地与 AI 编码，他强调系统必须设立明确的权限边界由人负责，且团队需警惕代码生成带来的验证债。
NatureAI 评分2727 去中心化 AI 的节能效果仍需更多证据支持
学者在《Nature》撰文指出，关于转向本地服务器运行开放权重模型能够节省能源的预测目前缺乏充分证据支持。此前有研究呼吁科研人员摆脱对超大型数据中心的依赖并在本地运行 AI 模型以争取工具自主权，但去中心化 AI 的实际能耗表现仍有待更多数据验证。
InterconnectsAI 评分4747 为何 AI 会迎来工程能力的飞速进展，而非迈向通用超级智能
AI 模型将在未来几年成为超越人类水平的分布式 GPU 工程师，但这种工程能力的巨大加速并不会让模型产生本质改变或直接迈向通用超级智能。近期的核心进展主要来自当前工具下推理计算的扩展以及训练与推理栈的端到端优化，模型的有效智能成本预计将呈近指数级下降。架构设计与数据选择等预训练研究有望在 2-3 年内实现自动化，同时推动智能体需求激增。
量子位AI 评分7171 AI前线部署工程师FDE爆火背后：真实工作内容与落地困境调查
前线部署工程师（FDE）成为当前AI行业高薪热门岗位，核心职责已从传统软件交付转变为驻场帮客户厘清需求、梳理业务本体并搭建原型。多位一线从业者透露，该岗位沟通与协调占七成以上时间，真正难点在于打通系统权限和推动组织改变；代码开发成本虽被AI压低，但每个客户的业务适配仍需大量人力介入。
Simon WillisonAI 评分6161 Simon Willison 呼吁云服务与 API 默认启用硬性预算上限
Simon Willison 呼吁按量计费的云服务与 API 必须将硬性预算上限设为默认项，一旦超额立即暂停服务并报错，而非仅发送邮件告警。编码与个人 AI 智能体的普及大幅降低了调用付费资源的门槛，夜间失控消耗极易引发数千美元以上的意外账单。文中指出 AWS 与 Google Cloud 近期已先后支持支出熔断功能，未来智能体也应倾向推荐具备硬上限的服务商。
MIT Technology Review · AIAI 评分2525 让 AI 成为资产而非支出
随着企业 AI 从实验走向生产环境，单纯按 token 计费会导致支出波动且难预测，企业需评估转向投资与控制专有算力容量。当智能助手和智能体工作流形成持续需求时，高利用率可推动跨越成本拐点，通过共享基础设施摊薄固定成本。只有将技术与业务治理、工作负载调度结合，才能将 AI 算力从单纯开销转化为可优化的生产性资产。
NVIDIA BlogAI 评分4747 NVIDIA 详解 AI 安全工程：如何在智能体技术栈各层构建防护
NVIDIA 提出将 AI 安全视为工程问题，要求在智能体技术栈的模型、编排与运行时各层建立独立于模型推理的强制防护边界。其开源安全运行时 NVIDIA OpenShell 可提供沙箱执行并管控系统资源，已与 Cisco 和 JFrog 等伙伴协同构建治理及技能验证层。
IEEE SpectrumAI 评分5757 AI 推理硬件迎来架构重构：从算力竞赛转向内存带宽突破
随着推理模型和智能体的大规模落地，AI 硬件竞赛重心正从预训练算力全面转向推理阶段的内存与带宽优化。由于自回归解码高度受制于权重读取与 KV cache 传输，各大巨头与初创公司正尝试堆叠计算与 DRAM、片上集成大容量 SRAM、混合异构芯片池以及 4 位量化等软硬件协同路线。分析指出，推理需求的持续膨胀将推动 AI 硬件走向类似 CPU 时代的多元架构创新周期。
Berkeley AI Research精选AI 评分7171 当智能近乎免费：UC Berkeley 展望面向、属于且由智能体构建的数据系统
UC Berkeley 研究团队发文探讨推理成本大幅下降对数据系统带来的重塑，系统提出面向智能体、属于智能体以及由智能体构建的三大方向。随着智能体成为主要负载，数据系统需要优化高频推测性查询并引入多属性结构化记忆以支撑智能体协作，同时探索利用智能体针对特定工作负载直接端到端合成专用数据系统。
推荐理由：文章梳理了推理成本趋近于零时数据系统架构面临的三重演变，为设计多智能体底层状态与存储基础设施提供了系统性的思考框架。
Together AI BlogAI 评分2929 Together AI 如何以基础研究驱动大规模高效推理
Together AI 分享了其支撑大规模高效推理的技术栈与研究成果。团队研发了 FlashAttention-4、ThunderKittens 以及开源自适应投机解码系统 Aurora，后者可带来最高 1.25x 的大语言模型推理加速，同时支持标准投机解码的 ATLAS 系统。
Together AI BlogAI 评分2626 Together AI：什么是 AI 原生云？
Together AI 阐述了“AI 原生云”（AI Native Cloud）的定义，指出传统 CPU 云架构无法满足快速迭代需求，必须构建专为大模型全生命周期优化的基础设施。