Looped Transformer 中截断反向传播会丢失多少梯度?
一项针对 9 个循环语言模型的研究精确测量了截断反向传播丢弃的权重梯度,发现当循环数远超截断步数 k 时丢失比例基本保持稳定。在 Ouro 模型上保留 4 个循环中的 2 个仍会损失 81% 的最终输出梯度,但该丢失量在微调 300 步内下降了 0.07-0.22。同时,该指标未能证实比免测量的规则更能预测截断训练成本。
一项针对 9 个循环语言模型的研究精确测量了截断反向传播丢弃的权重梯度,发现当循环数远超截断步数 k 时丢失比例基本保持稳定。在 Ouro 模型上保留 4 个循环中的 2 个仍会损失 81% 的最终输出梯度,但该丢失量在微调 300 步内下降了 0.07-0.22。同时,该指标未能证实比免测量的规则更能预测截断训练成本。
研究者基于等变度理论提出了一种通用的拓扑对称性指标,用于系统解码神经网络损失景观中的对称性与临界轨道。该框架适用于任意网络架构,并包含处理退化临界轨道的方法,能够检测临界点的各向同性并量化相应的净拓扑贡献。文中通过 softplus MLP、Transformer 以及等变神经网络等多个案例展示了该指标的具体计算。
研究指出潜在扩散模型的标准 VAE 高斯先验在强化学习微调下存在结构性缺陷,多模态数据会导致不同模态在潜在空间重叠并引发模式崩塌。在丙氨酸二肽玻尔兹曼分布测试中,高斯先验 VAE 在 beta_c = 0.224 时发生崩塌,而模式追踪高斯混合先验在 0.00316 时才崩塌,差距达 71 倍。该放大效应源自学习到的策略,且模式分离先验能带来不可替代的覆盖率优势。
研究人员针对基于 LLM 的智能体系统自动故障归因(AFA)展开机制研究,发现模型存在“知晓却不说”(knows-but-won't-say gap)现象,即内部激活已编码定位故障步骤的信息,却无法通过直接提示词输出。基于此提出的 grafting 干预方法充分利用模型潜存知识,无需推理期真实标签,在多模型基准评测中表现持续优于直接提示词方法,代码已开放。
一项针对统计学习在分布偏移下泛化缺陷的研究,从因果机制视角提出了面向决策与动态系统的建模框架。研究第一部分重构了算法追索框架,提出更现实的成本函数并引入时间维度评估策略;第二部分将因果干预扩展至离散与连续随机过程,证明其平衡状态可关联至作为时序动态压缩表示的结构因果模型(SCM)。
研究提出一种面向迭代式 ML 智能体测试框架的显式反馈契约,仅在提交结果超出基于配对标准误计算的噪声阈值时释放验证分数。在无信号控制任务中,该契约将智能体虚报的增益从精确反馈下的 0.0157 降至 0.0033,并收窄了真实任务的验证与测试集差距。相比精确反馈耗尽 30 次提交预算,契约机制在 4 至 12 次后及早停止,避免了盲目追逐噪声。
研究人员提出支持差分隐私(DP)的框架 CALLIOPE,无需依赖向量嵌入聚类,全流程直接利用大语言模型发现 LLM 对话等语料的主题层次结构。实验表明,该框架在差分隐私设置下的表现优于现有的基于嵌入的方法,尤其在高隐私机制下具备更优的效用。
研究人员提出面向部署的算法 ArcFlow,支持在单一流策略中跨指定求解器步数范围训练,同时保持模型架构与部署成本不变。该方法结合了动作对齐监督、预算暴露与最差预算检查点选择。在 DM Control、机械臂操作与运动控制的 30 个任务中,ArcFlow 在 25 个任务上取得了 5 个流策略基准中最高的单步平均回报。
研究人员提出了基于奖励分歧的 Discord 评估方法与 BRACE 预算分配框架,用于优化 MCP 环境下工具调用语言模型的强化学习训练。BRACE 通过结合历史任务证据、成功率不确定性及相关奖励模型,在前瞻性预测混合奖励组后再分配生成预算。在 3 种 Qwen3-VL 参数规模下,BRACE 以更少的新训练 rollout 超越基准表现,并在 BFCL 与 NESTFUL 上取得领先。
研究人员针对电力负荷预测提出了基于 Transformer 的极低状态(3、5、7 和 16 状态)权重分配与量化方案。直接后训练量化使平均 NRMSE 增加 6.25 和 7.04 个百分点,而感知量化微调(QAT-FT)成功挽回了约 90.2% 和 94.5% 的性能损失。新引入的累积更新阈值法将离散状态转换减少约 77%–80%,为多值突触器件的低功耗边缘预测提供了紧凑实现路径。
研究人员提出 SDI 方法,通过共享的 Actor 基准在世界模型同一状态下对比想象的动作序列,统一解决探索与动作采纳决策。当规划动作的预测优势超出基准变异性的固定倍数时执行规划,否则遵循 Actor,无需额外集成模型。在 Meta-World、Adroit 和 DM-Control 测试中,SDI 的任务平均分均高于基线,并在 18 个任务中的 15 个上达到或超过最强基线。
研究人员提出大语言模型非结构化训练后剪枝框架 LADDER,通过逐层损伤驱动评估与微调增量分配稀疏度,生成精确嵌套的掩码。在 OPT、Llama 和 Qwen 的 5 款模型及 10-90% 稀疏度测试中,该方法以 SparseGPT 为候选生成后端,在 70% 及以上高稀疏度下表现出显著鲁棒性。这种高稀疏度优势在后续蒸馏后仍得以保留,有效提升了零样本综合准确率。
研究者提出运动等变卷积 LSTM(MELSTM),将时序运动建模为规范对称性,利用速度模型作为规范场,在数学上证明对任意运动均具备等变性。在相同参数量下,MELSTM 在未来帧预测、动态数字分类及相机抖动动作识别任务中全面优于标准卷积 LSTM 及其流等变模型。该模型不仅准确率更高,还能泛化至更长周期和未见运动,且状态占用仅为流等变模型的一小部分。
该论文针对以人为中心的环境,提出了围绕奖励建模与演示质量的两类离线学徒学习(AL)框架。在奖励建模上,EM-EDM 与分层奖励调节框架 THEMES 在 1 个教育和 3 个临床数据集上超越了对比基线;在演示质量上,HALIDE 与引入贝叶斯信用分配的 CCHAL 实现了混合质量数据的高效利用。
新研究发现,用于文本属性图节点分类的简单基线仅落后 GraphLLM 最佳报告性能中位数 2.3 个百分点,在 24 项任务中有 15 项差距在 3 个百分点以内。虽然 GraphLLM 在 22 项可测任务中有 12 项仍显著更优,但代码审查发现诸多评测风险,包括测试集调参、测试标签用于训练,以及同方法报告差异最高达 12.5 个百分点。
STAR-XPC 是一种基于 Set Transformer 的神经网络模型,可在 1-3 毫秒内直接预测聚合物复合材料的 X 射线透射比。该模型利用 ChemBERTa 嵌入各成分,支持最多 11 种成分的混合物,推理速度较耗时数小时的 Monte Carlo 模拟提升数个数量级。在 4697 个配置的数据集上,其 R² 达 0.9988,中位数绝对百分比误差仅为 1.15%。
研究人员提出模拟器 SimHack,利用少量小规模参考 RL 运行学习训练动态,可在训练前预测奖励欺骗的爆发步数分布。在未见目标配方中,其预测爆发中位数的相对误差仅 11.3%,跨配方排序相关性达 0.85,并泛化至不同模型规模与学习率。通过筛选 RL 课程,它成功找到了使无欺骗训练时长延长 96.6% 的方案。
研究者提出了同步神经拓扑优化(SNTO)框架,利用自定义神经网络联合优化状态、伴随和设计变量,以解决大规模应力约束拓扑优化计算成本高的问题。该方法结合连续伴随分析与自动微分,并通过硬件感知训练方案将设计域划分为子域分布在最多 8 块 GPU 上。实验显示,SNTO 相比传统有限元方法能生成边界更清晰、灰度区更小的超分辨率设计,并可扩展至包含多达 800 万个配置点的 3D 问题。
一篇新发表的综述系统分析了基于 FPGA 与集成电路(IC)平台的强化学习硬件加速及系统级优化进展,汇总了超过 100 项相关研究。文献梳理涵盖基于模型的马尔可夫决策过程、深度强化学习、Actor-Critic、策略梯度及多智能体方法,剖析算法向可重构与固定硬件的映射。评测维度覆盖资源利用率、延迟、吞吐量和功耗等指标,并总结了通用架构模式与未来研究方向。
研究者提出了参数高效的交互门控时频学习框架 TF-IG,用于基于 PPG 信号的心率估计。该模型采用双分支架构分别提取时域脉搏形态与频域周期信息,并通过交互门控融合模块建模特征一致性与差异性。在 BIDMC 数据集测试中,TF-IG 仅包含 84.6K 参数量,取得了 1.227 BPM 的 MAE 与 2.060 BPM 的 RMSE,皮尔逊相关系数达 0.9934。
研究人员提出基于学习的成本感知 KV cache 保留框架 KVLearn,用于优化分离式 LLM 推理系统中的缓存准入与保留决策。该框架通过前缀复用预测器、成本感知保留评分和自适应阈值控制器协同工作,无需修改模型权重。评测显示,KVLearn 相比 LRU-Pool 将端到端首字延迟(TTFT)降低最高 38%,并减少最高 53% 的节点间传输量,代码已开源。
OpenAI 据报正推进在 IPO 前筹集最多 $30B 新一轮私募融资,投前估值达 $1.25T,由 Coatue 及阿联酋投资者领投。本轮阿联酋资金或将与为 OpenAI 提供更多算力的协议挂钩,目前条款仍在谈判中且可能变动。若以超 $1T 估值完成该轮融资,OpenAI 将创下私有公司历史最高估值纪录,并可能影响 Anthropic 即将到来的 IPO 定价预期。
企业 AI 的核心竞争优势正从基础模型选型转向模型周边的推理服务架构(Serving Harness)。架构设计需以具体工作负载为起点,权衡延迟、并发、显存压力、GPU 利用率和推理成本等实际生产约束。通过系统性优化架构、内存管理与调度,企业能在保障稳定规模化交付的同时灵活适应未来软硬件升级。
Simon Willison 分享了 DE STAAT 的歌曲《FREEDOM》官方音乐视频。该博文被其标注了生成式 AI(generative-ai)、AI 及音乐等分类标签。
生成式 AI 演示掩盖了真实工程的复杂性,无法单凭提示词取代需要对接数百万行旧代码、满足合规与无障碍标准且经历复杂部署流程的工程团队。工程师应深入理解 LLM 概率机制与 token 等基础原理,向上级阐明 Demo 与生产系统的本质差异并为真正关键的工程环节辩护。工程的核心任务始终是为人类构建安全有用的产品,盲目以牺牲一切换取速度并不可取。
开发者在 Linux 内核邮件列表提交 RFC 提案,借助 AI 清理并改进内核中的 AMD Zen CPU 微架构检测代码。该改动旨在优化针对特定代系 AMD Zen 处理器(如 Zen 3 到 Zen 5)的内核专用代码路径。
微软在《Science》发表研究推出多智能体诊断系统 MAI-DxO,在模拟复杂病例诊断中取得 83% 的准确率,超过独立查阅资料全科医生的 36%。该系统通过协调多个 AI Agent 模拟医生会诊流程,在搭配 GPT-5.5 等前沿模型时表现最好,且对能力稍弱模型的提升更为显著。微软同时宣布正与梅奥诊所合作训练医疗基础模型,并在医院急诊等真实环境中开展临床实测。
OpenAI 宣布将其决策模型 Decisions API 正式面向所有客户开放,旨在提供快速且低成本的高频选择与分类能力。该接口基于 ChatGPT Luna 重构以将推理延迟压缩至 100 到 180 毫秒,并在公测版本中新增了语音与视觉多模态支持。Box、Datadog 与 Speak 等早期测试客户已使用该 API 替代部分传统大模型工作流,大幅缩短了系统响应时间。
推荐理由:Decisions API 主打超低延迟决策,读者可以借此了解决策模型在替代传统大模型高频调用场景中的性能表现与成本优势。
设计平台 Canva 发布其首个自主研发的图像生成模型 Canva Craft,面向所有用户上线并支持最高 2K 分辨率及 30 种画幅比。该模型基于平台内设计模板训练,采用先规划空间层级再成像的两阶段机制,支持清晰文字排版、局部精准编辑以及转为分层设计。
1Password 推出新平台 1Password for Agents,允许 AI 智能体在不获取用户密码的前提下代其登录账户。智能体发起登录时需发送数字密钥验证身份,并在用户手动确认后由 1Password 代填凭据完成登录;该功能支持来自 Anthropic、OpenAI、Meta 和 xAI 等的智能体,旨在降低自动化任务中的凭据泄露风险。
先锋领航集团(Vanguard)AI 与洞察中心负责人 Jing Wang 在麻省理工科技评论 EmTech Future 大会上,探讨了在高度监管环境中构建可扩展 AI 系统的基石。该议题聚焦于将数据、工程、平台、运营模式与治理相融合,通过负责任且可信的实施方式,将包括 AI 智能体系统在内的新兴技术转化为持久的投资价值。
OpenAI 推出 Decisions API,旨在为各类应用程序提供快速、专注且低成本的决策能力,帮助开发者构建响应更迅速的应用。
Modular 正式完全开源其 MAX 软件的完整代码树,并采用全新的 MAX 许可证。继 8 月 Mojo 编程语言开源之后,该公司进一步开放了 MAX 引擎的全部源代码。
Google 宣布推出 Agent Compute Engine 服务,为每个 AI 智能体分配运行在 Titanium 芯片保护下的硬件隔离微虚拟机(microVM)。
摩根士丹利、摩根大通和美国银行等多家美国主要银行正在限制外部 AI Agent 使用客户凭据登录账户,因该行为违反了账户持有人必须亲自登录的合规政策。多数银行担忧安全风险及难以识别智能体是否受到用户直接指示,倾向于仅开放只读数据权限而非允许其执行交易操作。虽然银行试图建立防火墙,但用户仍可通过浏览器工具或开源软件向智能体授权,使服务端拦截面临阻碍。
AWS 介绍了在 Amazon SageMaker AI 上通过双向流部署 Kokoro-82M 语音合成模型的低延迟方案,智能体每生成完一个单句即刻启动合成,无需等待完整回复生成完毕。
Amazon Quick 作为符合 HIPAA 资质的智能体工作区,支持在 Web、桌面和移动端通过聊天智能体处理临床记录等非结构化内容与理赔等结构化数据。该服务提供预置连接器与基于 MCP 的自定义工具扩展,并具备 ACL 感知检索、聊天日志审计及行为护栏等治理能力。用户需在 AWS Artifact 签署 BAA 并完成权限与安全配置,以构建合规的工作流。
Amazon SageMaker AI 推出训练会话 API(training session APIs),允许开发者在本地 Python 环境编写自定义训练循环,并将 GPU 算力执行完全托管在云端。
推荐理由:该 API 将算力调度与训练控制流解耦并按 Token 计费,让开发者无需运维 GPU 即可低门槛实现自定义对齐与强化学习算法。
Amazon SageMaker AI 正式推出无服务器模型定制的训练会话(training sessions)功能,允许开发者在无需管理 GPU 集群和分布式配置的情况下,通过代码灵活控制后训练循环与奖励函数。
推荐理由:原文展示了如何通过 Serverless 架构托管底层算力调度,让开发者直接用代码灵活控制多轮强化学习训练循环。
宠物护理公司 IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建了企业知识库助手,无需自行管理向量数据库和数据摄取等 RAG 基础设施。