利用 Amazon SageMaker HyperPod 实现跨团队 GPU 集群隔离与公平共享
AWS 推出基于 Amazon SageMaker HyperPod 与 EKS 的多租户参考架构，支持多团队在严格隔离与资源公平下共享 GPU 集群。方案采用 AWS IAM Identity Center 集中认证，结合 Kubernetes 命名空间隔离工作负载，并由 HyperPod Task Governance 管理算力配额。
#部署/工程
#部署/工程
今日 4 条AWS Machine Learning BlogAI 评分3737 TechCrunch · AIAI 评分6363 Goodfire 推出基于内部激活监控的 AI 智能体防护工具
AI 可解释性初创公司 Goodfire 推出基于模型内部状态的监控工具，已面向 Baseten 客户上线，旨在以更低成本监测失控 AI 智能体的越轨行为。该方案通过轻量探针直接复用模型前向传播中已有的中间激活值进行分类，仅在异常时触发二次复检；在针对 Kimi K3 的测试中，其监控 1500 个会话仅耗费约 51 美元，拦截了 94% 的恶意黑客行为，且首字延迟增加不到 2%。
arXiv cs.LGAI 评分3535 CurveTQ：基于曲率加权搜索的大语言模型权重无旋转网格量化
CurveTQ 是一种无需旋转变换的大语言模型权重网格量化方法，通过将 Hessian 矩阵权重引入 Viterbi 搜索直接按曲率优化。在 2-bit 设置下，其在三款 4-8B Instruct 模型上的平均下游准确率比 QTIP 和 Proteus 高 1-3 个点，并在 35B MoE 模型上保持领先。因解码时无需撤销旋转，其速度在所有测试批次大小和位宽下均为三者中最快。
arXiv cs.LGAI 评分3434 Q-PACE：用于量化感知训练的动态精度分配方法
研究人员提出面向量化感知训练（QAT）的动态精度分配方法 Q-PACE，利用二阶敏感度模型预测量化损失并定期重新分配各层精度。在参数规模最高达 4B 的大语言模型预训练与监督微调实验中，该方法优于现有混合精度训练方案，能在显著降低总内存预算的同时保持相当的损失表现。此外，量化敏感度在训练期间高度稳定，仅需低频、低开销的重新校准。
arXiv cs.LGAI 评分3434 TAP：基于轨迹锚定恢复的高效长程智能体剪枝框架
研究团队提出首个针对强化学习训练智能体的结构化剪枝框架 TAP，通过轨迹锚定恢复降低长程智能体的高昂推理成本。在移除 60% FFN 通道的情况下，TAP 在 7B 密集智能体的 ALFWorld 与 WebShop 评测中分别保留了 99.2% 和 88.0% 的任务成功率，单次成功任务的 GPU 时间分别减少约 22% 和 17%。
arXiv cs.LGAI 评分3636 基于 LLM 蒸馏的多标签主题归类：生成式与判别式学生模型对比分析
一项研究系统评估了基于 LLM 知识蒸馏的多标签分类任务中，1B、4B 和 8B 规模的生成式与判别式（DeBERTa-V3、ModernBERT）学生模型表现。测试显示判别式模型在结构化商品评论中占优，但 1B 生成式模型在复杂多轮对话中反超基线；面对多达 112 个主题扩展时生成式模型依然稳健，而判别式基线的 Macro-F1 剧降 35%。相关优化模型已在全球电商生产环境中部署落地。
arXiv cs.LGAI 评分3636 自剪枝 Transformer：基于 Universal Attention 的极致 KV cache 压缩
Universal Attention 架构通过整合复合衰减机制并保留 RoPE 与 Softmax attention，实现了端到端训练的自适应 KV cache 剪枝。实验显示，该方法在自然语言和合成任务中取得了 10x 的 SOTA 压缩率，下游性能甚至优于未剪枝基线。在长上下文泛化测试中，该架构在 16k 长度下实现了 25x 的压缩率。
arXiv cs.LGAI 评分3838 SPIN：面向稀疏注意力的影子预测索引器
研究人员提出用于稀疏注意力的影子预测索引器 SPIN，通过基于历史的轻量预测识别重要 KV blocks，避免在每个解码步对完整 KV cache 打分。在长上下文与智能体基准评测中，SPIN 在保持任务质量的同时实现了 30-40% 的稀疏度。在端到端 vLLM 服务中，SPIN 将输出吞吐量提升最高 14.9%，并将中位数 token 间延迟降低最高 13.2%。
arXiv cs.LGAI 评分4141 KVFetch：面向 KV cache 压缩缺失维度的时序预取框架
免训练即插即用框架 KVFetch 正式提出，通过引入时序预取补全 KV cache 压缩在顺序遍历上的不足，解决长文本逐字拷贝中断问题。它将驱逐的候选 token 降级至量化冷层并预取位置后继，不增加注意力计算开销。在 RULER-16K 评测中，KVFetch 将逐字拷贝分数从 0.8 恢复至 78.4，13 项任务平均分提升 +8.4。
arXiv stat.MLAI 评分2525 EntroPrefill：面向检索增强生成具有条件稳定性保证的 Rényi 引导上下文剪枝
EntroPrefill 提出了一种结合 Rényi 引导机制与注意力显式约束的上下文剪枝方法，用于减少深层 Transformer 处理的序列长度。该研究推导了自适应剪枝层下的有限样本观测保证与条件扰动界，并给出了剪枝的算术收支平衡条件。本文属于纯理论研究，未提供实测加速比或任务准确率基准测试数据。
AWS Machine Learning Blog精选AI 评分7575 AWS 正式上线 Claude Haiku 5.5，支持 Amazon Bedrock 与 Claude Platform 调用
AWS 宣布在 Amazon Bedrock 及 AWS 上的 Claude Platform 正式上线 Claude Haiku 5.5。该模型面向高并发与成本敏感型场景及子智能体任务，多数任务成本较 Claude Haiku 4.5 降低约 75%，并首次引入努力度控制以平衡成本与智能水平。
推荐理由：文中明确了 Haiku 5.5 搭配 Opus 5.5 的子智能体分工，并给出 Bedrock 多种 SDK 接入方案，便于评估规模化落地的调用成本与架构设计。
arXiv cs.AIAI 评分4747 评估 LLM 路由的升级信号：目标、对照与五种自欺陷阱
研究针对从小语言模型路由至大模型的决策提出了一套升级信号评估框架。在 GSM8K 测试中，针对规模相差约 12 倍的大小模型对，语义熵区分小模型错误的 AUROC 达到 0.871，在同等成本下比随机升级提升最多 9 个百分点的路由准确率。研究同时指出，仅凭问题难度规则就可能产生相似假象，且实时采样成本甚至可能超过直接调用大模型。
arXiv cs.AIAI 评分3737 轨迹检索投机解码：模型自身历史何时能提供帮助？
研究针对长思维链推理提出轨迹局部自适应检索方法（TLAR），通过检索自身生成轨迹中的历史内容来辅助投机解码。TLAR 从当前轨迹提取近似匹配片段，结合近期验证结果自适应调节检索与候选宽度，并通过严格验证保持目标模型输出分布不变。在代码调试、数学和开放写作测试中，结合 TLAR 显著提升了 token 接受率与端到端吞吐量。
arXiv cs.AIAI 评分5454 MemMux：面向多并行编码智能体的运行时验证与资源归因系统
研究者提出了用于管理单机多编码智能体集群的本地运行时 MemMux，将内存治理与进程管控转化为可在运行时检验的监控信号。在 Linux 测试中，MemMux 将智能体集群内存严格限制在 7.5 GiB 预算内且实现零 swap，并能 100% 回收已终止智能体的子进程树以及检出全部 10 个逃逸子进程。
arXiv cs.AIAI 评分4141 Cascadia：在 11 台 AI PC 上实现 975B MoE 模型驻留推理
Cascadia 实现了 Inkling 模型（总参数 975B、激活参数 41B）在 11 台配备 64 GB 内存的 Intel Core Ultra X7 358H AI PC 上的驻留分布式推理。
arXiv cs.AIAI 评分3939 Offline AI Modules：语音优先离线架构、硬件参考栈、量化与基准评测
Offline AI Modules 提出了面向弱网环境的语音优先完全离线 AI 架构、硬件参考栈以及 2-5B 指令微调模型量化评测流程。在 NVIDIA Jetson Orin NX 与 Raspberry Pi 5 上的测试显示，Q4_K_M 为最佳量化方案。
arXiv cs.AIAI 评分3434 AegisFlow：面向脆弱数据生态自主修复与自愈的多智能体 AI 框架
研究提出 AegisFlow 多智能体 AI 框架，利用 Watchdog 与基于 LLM 的 Repair 智能体实现数据管道故障从检测到补丁部署的闭环自愈。
arXiv cs.AIAI 评分3737 FluidPD：面向 SLO 感知的大语言模型 Prefill-Decode 分离推理原位弹性系统
FluidPD 是面向大语言模型 Prefill-Decode 分离推理的原位弹性系统，解决负载动态失衡导致的 SLO 违规。系统通过 FluidToken 将部分预填充计算卸载至解码节点应对瞬时失衡，并利用 FluidRole 原位切换节点角色应对持续失衡，无需重载模型。在 Azure 生产负载测试中，FluidPD 相比静态 SGLang 将整体 SLO 达成率最高提升 94.6 个百分点。
Cloudflare BlogAI 评分5757 Cloudflare 如何构建基于证据的多智能体安全运营框架
Cloudflare 详细介绍了其在 Managed Defense 中构建的多 AI 智能体安全运营架构。系统先通过确定性应用代码提取网络上下文并固化为证据包，再由轻量模型 Clef 过滤噪点，并调度四个专业智能体并行分析流量与威胁情报。该方案严格限制模型越权并区分未检出与无异常状态，早期测试版现已面向部分企业客户开放。
AWS Machine Learning BlogAI 评分5959 Cornerstone OnDemand 如何利用 Amazon Bedrock 将数据库诊断时间缩短 78%
Cornerstone OnDemand 基于 Amazon Bedrock 与开源框架 Strands Agents 构建了多智能体系统 Orion AI，将数据库故障诊断时间从 45 分钟缩短至 10 分钟，降幅达 78%。
AWS Machine Learning BlogAI 评分4949 AWS 推出基于 AWS DevOps Agent 调查的自动化故障修复方案
AWS 演示了结合 AWS DevOps Agent、Amazon EventBridge、Amazon Bedrock 与 AWS Lambda Durable Functions 构建的事件自动化修复工作流。
AWS Machine Learning BlogAI 评分3939 Qlik 如何基于 Amazon Bedrock 构建可靠的企业级 AI
Qlik 基于 Amazon Bedrock 构建了企业级工具 Qlik Answers，为超 40,000 家客户提供有据可查的自然语言问答能力。自 2026 年 2 月全面可用以来，其 Discovery Agent 已为客户检测出超 100,000 项异常。
Latent SpaceAI 评分6262 Kubernetes 联合创始人押注 Stacklok：云原生 Harness 能否让智能体脱离桌面保持可靠？
Kubernetes 联合创始人创立的 Stacklok 转向云原生智能体基础设施，推出开源 Harness 项目 Mecatl，将智能体循环与底层执行解耦并交由云端集中调度。
arXiv cs.LGAI 评分3535 FlexiFlow：机器学习工作流中基于多臂老虎机的动态模型切换
FlexiFlow 是一种机器学习数据流系统，能在当前模型准确率较低时动态切换至备用模型，将工作流准确率提升最高 23%。该系统采用新型多臂老虎机方法对模型进行排序，综合考量运行时间、用户定义断言的通过概率及工作流计算结构。通过在运行时切换模型并复用中间结果，FlexiFlow 相比顺序执行工作流还带来了 48% 的效率提升。
arXiv cs.LGAI 评分3535 SoloQ：面向扩散大语言模型的免校准量化框架
研究提出免校准量化框架 SoloQ，通过结合结构化 K-RPBH 旋转与轻量级重缩放校正，实现面向扩散大语言模型的数据无关 4-bit 量化及 commit-time KV cache 压缩。
arXiv cs.LGAI 评分3636 TRIAGE：面向原生 NVFP4 强化学习的方向感知偏差稳定方法
研究团队提出 TRIAGE 方法，解决大语言模型原生 NVFP4 强化学习中采样与学习执行不匹配导致的优化不稳定问题。该方法在保留两端 NVFP4 W4A4 前向执行的同时，通过片段级诊断重平衡策略梯度更新并修复严重偏差。在 Qwen3-4B 和 Qwen3-30B-A3B 上的实验表明，其在 5 个数学推理基准上达到全精度表现，rollout 吞吐量较 BF16 最高提升 2.3x。
arXiv cs.LGAI 评分3737 块级扩散语言模型中的掩码引导 KV Cache 驱逐
研究团队提出无需训练的 MaskAhead 及其量化变体 Q-MaskAhead，通过掩码查询排序机制优化块级扩散语言模型的 KV cache 驱逐与 token 选择。长提示问答中，两者分别降低 9.5x 和 20.1x 的 KV 显存，平均 F1 仅损失 1.2 和 2.3 点；并在 batch-32 测试中取得 1.23x 端到端与 1.68x 解码加速。
arXiv cs.LGAI 评分3434 AttSVD：基于注意力引导 SVD 的提示词自适应低秩 KV cache 压缩
AttSVD 提出了一种基于注意力引导 SVD 的免训练低秩 KV cache 压缩方法，在保留全部 token 的前提下沿特征轴降低存储开销。该方法通过在线截断 SVD 仅保留注意力实际读取的方向，并提供累积与流式两种解码缓存策略。在智能体基准和完整 LongBench 评测中，AttSVD 仅占用最多 50% 的 KV cache 内存，性能与稠密缓存相当。
arXiv cs.LGAI 评分3535 面向制造业的事件驱动机器学习流水线编排：AWS 实践经验
面向汽车制造的事件驱动机器学习架构实现了自动化 GPU 训练编排，在 40000+ 生产任务中较常驻 GPU 降低 72-78% 成本。系统结合 Amazon ECS、EC2 GPU 容量提供程序与准入控制 Lambda 调度器，协调物理预测和强化学习控制策略的重训。离散事件模拟显示无准入控制会丢失 65% 的任务，相关模拟器与 Terraform 模块骨架已开源。
arXiv stat.MLAI 评分3434 超越边际监控：面向大规模电商数据概念漂移的分布式联合分布检验
研究人员在 1.375 亿行电商特征表等基准上评估发现，基于 Apache Spark 的随机傅里叶特征分布式最大均值差异方法能稳健检测概念漂移。该方法在强漂移场景下与预期漂移幅度的皮尔逊相关性达 r = 0.940，真阳性率为 80.4%，假阳性率为 3.2%。相比之下，逐维度 Kolmogorov-Smirnov 检验因非对称采样下 ID 类列的统计饱和而失效。
Together AI BlogAI 评分4747 Together AI 携手 IBM Cloud 与 NVIDIA 扩展企业级推理算力
Together AI 宣布与 IBM 及 NVIDIA 合作，成为首个在 IBM Cloud 上运行大规模专用推理集群的客户，该集群采用专为推理构建的 NVIDIA B300 GPU 与 Spectrum-X 以太网网络。合作中 Together AI 运营推理层，IBM 与 NVIDIA 分别提供云基础设施及芯片网络，以满足其每月为超 100 万开发者处理数百万亿 token 的推理需求。
TechCrunch · AIAI 评分6464 AI 算力初创公司 Lambda 拟在 IPO 前融资 40 亿美元，估值达 145 亿美元
AI 云算力提供商 Lambda 正在以 145 亿美元投前估值筹集高达 40 亿美元资金，作为其计划 2027 年 IPO 前的最后一轮私募融资，该轮由 Coatue Management 与 Blackstone 领投。
AWS Machine Learning Blog精选AI 评分6767 如何基于 AgentCore 与 OpenClaw 构建上下文感知 AI 智能体
AWS 介绍了如何结合 Amazon Bedrock AgentCore 与开源智能体框架 OpenClaw 构建具有持久上下文记忆的个人 AI 助手。
推荐理由：提供了无服务器容器运行时、多层长期记忆提取与提示词缓存的完整工程方案，适合需要为智能体添加低成本跨会话记忆的开发者参考。
Simon WillisonAI 评分3434 将 Parseable 与 Datasette 结合用于 OpenTelemetry 追踪
Datasette 1.0a41 新增了 OpenTelemetry 支持，作者借助 Codex 实现了将其追踪数据接入可观测性平台 Parseable 并展示效果。Parseable 兼容 OpenTelemetry，提供约 180MB 单二进制文件的开源（AGPL）Rust 实现、企业版及云托管选项。用户可在其本地 Web 界面中检索并分析请求 span 耗时与数据库查询等 Trace 详情。
AWS Machine Learning BlogAI 评分3636 直接从 SageMaker Studio 管理 Amazon SageMaker HyperPod Spaces
数据科学家和机器学习工程师现可直接在 Amazon SageMaker Studio 界面中创建与管理 HyperPod EKS 集群上的 Spaces，无需使用命令行即可快速启动 JupyterLab 和 Code Editor。集群详情页新增“IDE and Notebooks”标签页，支持可视化配置计算资源、管理配额，并能一键启停或通过 VS Code 等远程 IDE 连接开发环境。
AWS Machine Learning BlogAI 评分3333 Amazon SageMaker HyperPod 管理与治理最佳实践
Amazon SageMaker HyperPod 结合 SageMaker Unified Studio 构建了涵盖组织、项目、集群与工作负载四层的管理治理架构。该方案将集群与算力集中在专属容量账户统一运维，支持 ML 团队在项目工作区安全提交模型训练和微调任务；同时针对 Amazon EKS 与 Slurm 分别通过 RBAC、配额借调抢占及 QoS 机制实现多租户算力公平分配。
The DecoderAI 评分5353 Cohere 推出企业级 AI 平台 North 2
Cohere 推出面向企业的 AI 智能体控制平台 North 2，支持自主处理多步骤工作流并保留跨会话上下文。该平台采用模型无关设计，除自家 Command A+ 外还可接入其他模型，并支持本地、云端或完全气隙隔离部署。管理员可通过 North Admin 细化控制 token 用量与权限，关键操作需人工审批，目前 LG CNS 和 Bell Cyber 已在生产环境中采用。
AWS Machine Learning BlogAI 评分4646 智谱 GLM 5.3 正式上线 Amazon Bedrock
智谱（Z.ai）753B 参数 MoE 模型 GLM 5.3 正式上线 Amazon Bedrock，面向符合条件的企业客户提供全托管 API 服务。该模型专为编程和长流程智能体任务优化，发布时在 CyberGym 安全基准测试中取得 84.5 分。用户可通过兼容 OpenAI 的 API 或 Bedrock 原生接口调用，并支持跨区域推理与提示词缓存。
PhoronixAI 评分3838 AMD ROCm 10.1 发布，带来多项改进
AMD 现已发布 ROCm 10.1，带来多项功能改进。该版本延续了 ROCm 每 6 周一次的常规发布周期，紧接着 8 月底推出的 ROCm 10.0 登场。
AWS Machine Learning BlogAI 评分4848 Amazon SageMaker AI 为编程 Agent 推出生成式 AI 推理优化技能 aws-ai-ml
Amazon SageMaker AI 通过 Agent Toolkit for AWS 推出 aws-ai-ml 技能，为编程 Agent 赋予生成式 AI 推理优化与基准测试能力。