Circle K 基于 Amazon Bedrock 构建 AI 智能体自动化故障排查系统，将平均事件排查时间从 45–60 分钟缩短至 15 分钟以内，降幅达 67%–75%。系统在报警触发后数分钟内自主排查多账号基础设施与日志，直接向 Slack 推送结构化分析结果。方案结合 Bedrock Knowledge Bases 托管 RAG 检索内部文档，避免了自建向量数据库与模型运维开销。
AWS 团队介绍了在 Amazon SageMaker AI 上利用序列级知识蒸馏（SeqKD）降低智能体运行成本的实践方案，成功将前沿教师模型的多步决策能力迁移至 4B 小模型。
开源 Python 爬虫 Crawl4AI 可用于为 Amazon Bedrock Knowledge Bases 预处理网页内容，以提升 RAG 应用的数据摄取质量。该方案通过提取结构化 Markdown 和自定义元数据，去除导航等样板内容后上传至 Amazon S3。随后 Bedrock 自动完成文档解析、分块、嵌入向量生成与向量检索索引构建。
研究团队提出面向智能体图像编辑服务的重试感知路由机制 RetryRoute，针对重试成功率仅为首次 17-53% 的“粘性失败”问题优化调度。该机制根据失败历史评估各模型成功率，统筹规划重试、模型升级与放弃，并引入实时队列等待实现负载感知。实验显示其成功率较 11 个基线平均高出 2.8 点，在 GPU 平台上将 SLO 达标交付比例提升 5.0-6.3 个百分点。
研究团队推出硬件感知框架 SparseGDN，通过结构化块内近似与动态循环事件选择加速线性注意力模型的长上下文 prefill。在 Qwen3.5-4B 和 Qwen3.5-9B 跨 4K 至 128K 上下文的 RULER 评测中，该方法平均仅保留约 29% 的循环事件。
研究人员提出跨架构知识蒸馏框架 CAMEL，利用嵌入学习中的非对称掩码策略，将 RETFound 等大型视网膜基础模型的知识迁移至轻量级学生模型。在 4 个数据集上的实验表明，该方法在大幅降低计算复杂度的同时保留了诊断准确率，适用于硬件受限的临床环境部署。
GAAC 提出一种无损 KV 缓存压缩系统，利用指数冗余在逐位保真下在 5 个模型上实现 1.405-1.407× 的 BF16 压缩。该方案在 64k token 上下文下将 NVIDIA DGX Spark 解码 attention 加速 1.19-1.27×，端到端 W4A16 解码加速 1.04-1.15×，并削减约 26% 常驻 KV 内存。
研究团队提出面向 LLM 推理服务的负载感知模拟器 GAUSS，可预测特定工作负载、引擎和加速器下的首 token 延迟（TTFT）与 token 间延迟（TBT）完整分布及可持续请求率。该工具结合针对 prefill 和 decode 阶段校准的延迟曲面与排队模型，通过集成蒙特卡洛采样替代单 trace 回放，能有效捕捉尾部延迟并评估未部署的硬件与调度策略。
LRMoE 是一种显存感知的 MoE 训练系统，通过在前向规划保留配额并在反向传播时重校准负载需求，解决显存受限节点的计算与通信瓶颈。系统通过容量感知路由与物理压缩减小通信载荷，有效降低反向通信、计算量和缓冲区显存开销。
AWS 发布面向 FinOps 和平台工程团队的 Amazon Bedrock 成本管理指南，提出涵盖归因、观测、强制执行、默认项优化和持续运营的五阶段闭环模型。方案重点针对智能体架构的高上下文与多轮调用特征，详细阐述了通过 IAM 会话标签与 CUR 2.0 解决共享角色归因盲区、利用 CloudWatch 注入请求元数据，以及借助 Prompt 缓存和模型智能路由降低推理成本的工程实践。
Amazon Bedrock AgentCore runtime 推出 Session endpoints 功能，支持用户在编码智能体构建 Web 应用时直接通过浏览器进行实时预览与热重载。
Worldwide Express 联合 AWS 基于 Amazon Bedrock 构建多智能体 AI 系统，上线 6 个月使货运账单活跃异常减少 75%，回款周期缩短 4 周。该方案带来 1000 万美元一次性自由现金流注入并实现每年节省 100 万美元。系统通过发票匹配、价格差异和附加费验证 3 个智能体协同分析，在准确率超过 99% 后开启批量审批。
研究人员构建了一种多智能体优化循环，并在 FuriosaAI RNGD NPU 上历时 12 天优化了 Gemma-4-12B 的三个解码算子。该循环通过自主建立 Rust DSL 文档知识、运行微基准测试与编译器合法性检查，结合设计树搜索探索算子实现。最终内核相比官方 baseline 取得 9.293x 几何平均加速比，相关提示词与测试工具均已开源。
Breakthrough Listen 与 SETI 研究所将智能体 AI 引入地外文明搜索，在艾伦望远镜阵列上通过自然语言即可自动控制天线、校准仪器并处理观测数据。该系统基于 NVIDIA Holoscan 平台与 RTX PRO 6000 Blackwell GPU，支持每秒 2.4 Tbps 传感器数据的实时显存处理，已在蟹状星云完成脉冲星的实时 AI 检测。
推荐理由：文章展示了如何通过端到端软硬件协同将海量传感器数据接入 GPU，为高吞吐科学仪器的智能体化控制提供了工程参考。
AWS Batch 针对 Amazon SageMaker Training 任务推出配额管理（quota management）功能，支持管理员按团队或项目划分配额份额，实现闲置 GPU 算力的跨团队出借与借用。系统提供 RESERVE、LEND 和 LEND_AND_BORROW 三种共享策略，支持通过跨份额抢占自动收回出借资源，并可开启份额内抢占优先保障高优先级任务运行。
NVIDIA Nemotron 3.5 Super VL 已支持在 Amazon EKS、EKS Auto Mode 及 SageMaker HyperPod EKS 上部署，用于加速智能体 AI 工作流。
COPE 是一种面向 MoE 卸载策略的仿真器，可在集成前为目标模型与硬件平台选出最佳卸载策略。它包含 Policy Matrix 和 Virtual Heterogeneous Machine 两大组件，通过解构设计空间衍生出 4 个新候选策略并估算性能。相比基线，COPE 将最快策略选择准确率提升 24%-100%，性能预测误差降低 1.7x 至 6.8x，策略实现工作量减少最多 74%。
Packed-SS 提出了一种自推测解码调度机制，通过让扩散起草器提前一步运行，在单次模型调用中同时完成草稿生成与验证。该方案将输入大小维持在推测宽度的线性级别，且完全保持目标模型的输出分布。在 Nemotron 3B/8B 和 SetDLM 1.7B 上的贪婪解码实验表明，Packed-SS 相比基线取得了更高的吞吐量与更短的平均耗时。
All-in-One 攻击框架可同时针对量化、剪枝和模型合并等多种 LLM 部署转换，当用户应用其中任意一种转换时即可触发恶意行为。该方法将各类转换近似为模型权重扰动，在训练迭代中联合优化原始模型的良性损失与模拟转换模型的恶意损失。实验表明，该攻击在多种攻击场景、模型族和部署转换中均实现了高成功率。
Pinterest 部署了名为 RLBP 的混合架构，将强化学习作为元控制器每日动态调节 PID 参数，同时保留 PID 负责高频出价。该系统基于多头 Q 网络和推理时融合动态权衡成本与预算交付，无需重新训练。在线 A/B 测试与上线后两个月的对照监测显示，RLBP 在收入不降的前提下显著降低了有效每次点击费用（eCPC）。
研究人员提出免训练的查询感知视觉 token 剪枝方法 QViD，利用 Transformer 注意力中查询-视觉交互矩阵的低秩特性捕捉相关语义。图像与视频理解评测基准实验显示，QViD 在匹配的 token 预算下持续提升性能，且在激进压缩场景下收益最为显著。
研究人员提出多智能体框架 Evolving Agent Teams，通过中央监督者诊断局部最优并动态重组智能体团队，结合持久化文件系统积累的演化经验突破复杂工程瓶颈。
推荐理由：论文针对编程智能体容易陷入局部最优的痛点，提出了通过中央监督者动态重组团队并积累持久经验的通用协作范式。
针对 LLM 服务中 GPU kernel 缺乏批次不变性（BI）影响复现性的问题，研究人员提出一种面向智能体 kernel 生成的 BI 强化插件。该工具结合静态依赖分析与动态逐位一致性验证，作为优化循环的准入门控拦截风险候选。跨 3 个智能体框架的实验表明，BI 通过率从 67.6% 提升至 91.9%，并保留了基线 91.8% 的几何平均加速比。
研究提出功能秩分配方法 FRA，用于在共享资源预算下对 LoRA 适配器集群进行功能感知的事后压缩。该方法通过端到端测量独立模块截断并结合动态规划构建秩-失真边界，再执行集群级 minimax 秩预算分配。在 3 个公开集群共 78 个适配器的测试中，FRA 在受限预算下相比均匀谱压缩提升了最差情况与尾部效用。
研究人员提出工作负载感知的 KV cache 管理器 WAKMan，无需获知请求类型或读取提示词，即可自适应选择淘汰策略，将缓存命中率较 LRU 平均提升 5 个百分点。针对 20 种混合流量下单一策略无法通用的问题，它有效兼顾了偏好时间局部性的智能体步骤与偏好频率的长对话，在所有策略中取得了最低的平均与最坏情况最优性差距。
研究团队基于 Nvidia DCGM 开发出 100 ms 采样间隔的细粒度监控工具，对拥有 89 节点、319 块 GPU 的集群展开实测。对 7,399 个任务的分析显示，超 70% 任务 GPU 显存占用低于 20%，50% 任务平均 SM 利用率不足 5%，且 80% 任务申请与实际时长严重不符。结果表明可通过优化调度和 GPU 多任务大幅提升利用率，该监控工具已开源。
AWS 推出预构建的 Ray Train 深度学习容器（DLC），集成 PyTorch 2.13.0、Ray 2.58.0 与 EFA 网络栈，支持在 Amazon EKS 上免构建镜像开展分布式训练。
AWS 架构师团队推出了基于 Amazon Bedrock AgentCore 构建企业级智能体平台的参考架构与配套开源蓝图。该方案采用联邦运营模型，通过独立的平台控制面和按业务流隔离的工作单元单元格，统一部署推理网关、基于 MCP 的工具网关、短期凭证身份与细粒度配额。CI/CD 流水线设置了双向对抗评测门禁，确保每次 Agent 上线前严格验证合规调用与异常阻断。
研究人员提出分布指纹审计（DFA）统计方法，仅需文本响应即可在黑盒环境下低成本检验大语言模型中转 API 是否真实提供了用户请求的模型。该方法通过重复查询简单有限选择探针构建端点指纹，并利用柯西组合检验聚合证据输出统计 p 值；在涵盖 10 个模型家族共 16 款模型的测试中，仅需 5 个探针和 250 次中转请求即可实现高检出率。
研究者提出免训练的角色感知量化方法 RAQ-MLA，专为大模型的多头潜在注意力（MLA）Cache 设计。该方法针对 latent 和位置 key 对注意力输出的不同误差影响分别拟合可逆变换，将完整 MLA Cache 量化至每个元素约 2.5 bits。在无需训练的情况下，其理论 KV cache 容量提升 6.5x，并在 4 个 MLA 模型的推理与代码任务上保持几乎无损。
针对部署机器学习模型在分布偏移且缺乏标签时的性能衰退，研究者提出了一种反事实模型测试方法。该方法在受控基线数据上分别复现总体变化与特征管道数据完整性问题两种机制，用于评估模型当前性能及修复数据问题的潜在收益。真实数据集与流失预测案例实验表明，区分这两种来源可提升评估精度，有效支持监控和修复优先级决策。
Together AI 详解了其 GPU 集群的自动修复系统，通过“被动健康检查”持续监测虚拟机内部与宿主机底层，在检测到 GPU 故障时推荐最轻量级的修复操作。该系统涵盖检测、决策、修复与物理宿主机重验四个阶段，支持用户按具体故障类型自定义全自动或人工审批策略，并可设置等待运行中作业结束。目前被动健康检查、自动修复策略及控制台与 API 修复均已正式可用。
清洁能源企业 Exowatt 采用 Amazon SageMaker AI 无服务器模型微调流水线，分别针对边缘警报分流与云端能源市场分析微调 Qwen3 模型，在特定任务上的准确率超越了 Claude Opus 4.7 等前沿模型，成本最高降低 49 倍。
Amazon SageMaker AI 训练和处理任务正式支持 Seekable OCI（SOCI）索引镜像，通过延迟加载机制将容器启动时间从数分钟缩短至数秒。基准测试显示镜像拉取期间的 GPU 空闲时间最多减少 90%，且除了首轮微调有秒级加载延迟外不影响后续训练性能。开发者可直接使用带有 -soci 后缀的官方深度学习容器，或通过开源 SOCI snapshotter 对自定义镜像建立索引。
BiLoCo 是一种面向大模型 FP4 训练后量化（PTQ）的二值低秩校正方法，将校正因子存为二值符号向量，单秩分量存储减少 16 倍，且可在 CUDA Core 上与 Tensor Core FP4 GEMM 并发运行。
研究人员提出免训练 MoE 压缩框架 GS-MoE，通过分组共享低秩子空间与基于 Nyström 的神经元剪枝压缩专家参数。在 DeepSeek-MoE-16B-Base 上减少 60% 模型总参数时，GS-MoE 保留了约 90% 的平均推理性能（D^2-MoE 为 73%），且域外困惑度低 20%。该框架还采用无梯度的层重要性评分进行分层预算分配，相关代码已开源。
研究者提出神经网络权重表示方法 TWIG，将权重转化为继承门控的共享离散决策路径，从而将剪枝、量化与低秩分解统一为单一优化。当决策采用 2 的幂次时，网络权重层可转为几乎仅由连线与加法器构成的硬件电路。在 LLM 矩阵的 3- 和 4-bit 测试中，TWIG 在同等误差下比 GPTQ 减少 9–15% 的加法操作，含强异常值的矩阵减少 20–55%。
针对 1-4 bit 权重部署，研究者提出延迟解码点积重构方案，使长度为 n、k-bit 权重的点积仅需 n+2^k 次加法与至多 2^k 次解码和乘法。该方案将权重编码直接用作地址累加激活值并在末尾统一解码乘算，使乘法器数量减少 n/2^k 倍，局部权重内存缩减最高达 w_d/k。基于此设计的 SA-PE 处理单元已在 FPGA 综合中验证了硬件收益与计算等价性。
研究人员提出 S-SALAAD 框架，在训练中联合学习低秩与结构化稀疏组件，使单个 checkpoint 能弹性适配多种内存预算。该框架支持硬件兼容稀疏模式并配备专用 CPU 与 GPU 内核，消除传统稀疏的索引与内存开销。在 Llama2 和 Qwen3 上的实验表明，其在困惑度、内存占用和推理延迟上均推进了经验 Pareto 前沿。
研究提出通过联合调整扩散工作量与投机解码宽容度，探索投机扩散（Speculative Diffusion）的速度与质量帕累托前沿。扩散大语言模型（dLLMs）能通过并行生成 token 作为草稿模型加速推理，投机解码本身也能放宽验证器的接受标准来实现有损快速采样。实验表明，联合调节这两项参数相比单步扩散草稿能有效扩展速度-质量帕累托前沿。