研究实测开源大语言模型跨基准、推理模式与硬件的推理能效
一项针对 86 个开源大语言模型检查点的实测研究显示，能力相近的模型推理能效差异显著，开启思考推理模式平均会增加约 3.7 倍能耗。测试覆盖 7 个基准测试与 6 种硬件平台，发现多数配置偏离能效 Pareto 前沿，能耗比同性能配置中位数高出 2.6 至 4.8 倍。此外，FP8 量化可在分数基本不变的情况下减少约四分之一能耗，而生成 token 数量并不能完全代表实际能耗。
#推理
#推理
今日 1 条arXiv cs.AIAI 评分5454 arXiv cs.AIAI 评分3939 ACED-Bench：评估 LLM 智能体如何获取与应用因果证据
研究者推出神经符号基准 ACED-Bench，用于评估 LLM 智能体主动获取因果证据并做出决策的能力。其核心榜单 ACED-Core 包含 180 项因果推断与决策任务，辅以含 150 题的资格检查 ACED-Qual，评测了 7 款当代与 2 款早期 LLM。结果显示，智能体常出现测试错误干预、遗失相关证据以及在证据充足后仍无法及时停止等失败问题。
arXiv cs.AIAI 评分4848 人工智能的首场大考：基于 LLM 引用的超智能 C-test 评测
研究人员提出了首个基于 Levin's Kt 并以大语言模型作为表征机器的测试方法，用于评估可能超越人类与现有 AI 的超智能系统。该方法利用归纳推理反向问题生成高难度测试项，难度采用以比特为单位的比例尺度估算，并构建了轻量化生成与认证流程。团队制作了首套认证测试项并对 12 个大语言模型展开评测，成功验证了覆盖超智能区间的测试能力。
Apple ML ResearchAI 评分4343 基于选择的结构化推理（SSR）：迈向高效多模态搜索智能体
研究人员提出基于选择的结构化推理（SSR）框架，将多模态智能体的开放式推理重构为从预设可复用的候选推理中进行选择。在 2B 与 4B 模型及 7 个多模态搜索评测基准上的测试显示，该方法在保持任务成功率的同时，将每轮推理延迟降低超过 90%，并将每个问题的模型总推理延迟降低 28–54%。
Apple ML Research精选AI 评分7373 Mac Studio 结合 MLX 与 RDMA 实现大语言模型本地及分布式推理评测
Apple ML 团队展示了利用 MLX 框架结合 Thunderbolt RDMA 低延迟驱动，在 Mac Studio 上实现超大语言模型本地与跨节点分布式推理的方案。
推荐理由：文章展示了利用雷电 RDMA 在多台 Mac Studio 上组网运行超大模型的方法与实测数据，为端侧分布式推理部署提供了具体参考。
arXiv stat.MLAI 评分3333 用于策略优化的函数空间时间自蒸馏方法 FSPO
FSPO 是一种面向策略优化的单策略自蒸馏框架，通过将稀疏历史 next-token 分布存为固定时间目标，无需维护常驻教师模型即可提供稳定指导。在推理与工具调用基准中，FSPO 在 5-hour 训练预算下取得最高平均准确率，比最强基准提升约 4% 个百分点。在 Olmo3-7B-Instruct 上，其峰值显存从约 70 GB 降至 56 GB。
arXiv cs.LGAI 评分3434 DTDD：通过分歧触发动态蒸馏实现可靠的同策略监督
研究人员提出自适应同策略蒸馏框架 DTDD，通过分段级学生与教师分歧动态触发教师接管，以解决长链推理和多轮智能体中监督不可靠的问题。DTDD 将预热后的峰值梯度范数降低 8.6x，从基础初始化达到 21.3% 保留数学准确率所需的优化步数减少 2.6x。在 ALFWorld 基准中，其在 LoRA 和智能体代码上的性能分别提升 4.8 和 4.1 个百分点。
arXiv cs.LGAI 评分3434 面向扩散语言模型的结果路由蒸馏与强化学习
研究人员针对 MoE 架构的扩散语言模型（dLLM）提出了一种无需策略似然度的训练管线，结合验证器强化学习与结果路由蒸馏。在 24 步去噪下，蒸馏先使模型工具调用性能超过教师 6.77 个百分点，加入路由后在蒸馏检查点基础上进一步提升 18.31 个百分点。该方法还通过锚定 KL 项保护了验证器奖励之外的推理链路准确率。
arXiv cs.LGAI 评分3535 Spectral-MoE：Dense-to-MoE 转换中各层异构专家利用率优化
研究人员提出 Spectral-MoE，通过静态逐层标量和动态逐 token 调度两种方案，在 Dense-to-MoE 转换中跨网络层异构分配专家利用率预算。
arXiv cs.LGAI 评分3232 顺着不动点曲线：连续思维机（CTM）中的图像分类机制研究
研究人员揭示了连续思维机（CTM）在 ImageNet 上的图像分类机制，其思考轨迹表现为神经状态紧跟逐步移动的局部唯一吸引不动点曲线。该曲线运动大多在不同图像间共享，且注意力调度高度通用：在每个时间步打乱图像间的 query 仅导致 7% 的分类准确率损失，图像无关增量预测下一个 query 的 R^2 达到 0.98。这表明 CTM 倾向于采用单一通用策略处理所有 ImageNet 图像。
arXiv cs.LGAI 评分4242 LLM 智能体协作研究：通过概率通信缩小协作差距
研究提出让 LLM 智能体团队传递经过校准的动作概率而非单一动作，以在部分信息场景下更有效地聚合决策信息。在协作迷宫任务与预训练 LLM 评测中，保留校准不确定性的概率通信表现显著优于传统的动作通信。针对概率偏差削弱通信收益的问题，研究设计的事后对话校准干预机制能够通过上下文纠偏持续改善协作决策。
arXiv cs.LGAI 评分3434 基于共形认证的自适应计算框架 Conformal Adaptation
研究人员提出了具备风险保证的 Conformal Adaptation 框架，用于实现感知不确定性的稀疏自适应计算。该方法采用分层模型在低分辨率下进行预测，利用共形风险控制对信号进行认证，并仅对已认证区域进行高分辨率细化。在 3D 医学图像分割、2D 星系光通量预测和 1D 钙离子脉冲率预测等多项任务中，该方法在普通 CPU 等设备上实现了 2.5-72x 的实际运行时间加速。
arXiv cs.LGAI 评分4747 MA-Bench：评测语言模型在军事作战规划任务中的表现
研究者推出评测基准 MA-Bench，旨在评估语言模型在无唯一标准答案下将大量、不完整且存在矛盾的文档转化为行动方案的规划能力。该基准包含 10 个专家构建的场景与 1,257 条通过/未通过要求，评测 20 款前沿及开源权重模型显示最佳模型仅答对 62% 的评分项。模型在文档陈述的事实上表现最好（58%），在推断判断上最弱（33%），且十分之六的失败源于遗漏而非错误。
arXiv cs.LGAI 评分3636 通过保留注意力的 MLP 裁剪解锁推理大模型的结构化剪枝：LayerTrim
研究者提出免训练结构化剪枝方法 LayerTrim，通过识别冗余解码器层并选择性裁剪其 MLP 特征，在保留注意力机制和解码深度的同时保护长程推理能力。跨 3 个推理模型和 5 个基准的测试显示，该方法平均准确率相比 RESP 最多提升 21.4 个百分点。在 Qwen3-14B 上，LayerTrim 实现了 1.24x 的 Prefill 加速并降低 19.7% 的 GPU 峰值显存。
arXiv cs.LGAI 评分3535 连续流语言模型如何反向传播验证器奖励
研究者提出了面向连续流语言模型的强化学习后训练框架，可直接反向传播验证器奖励。该框架引入能评估中间 token 嵌入价值的 critic，绕过不可微的离散解码步骤以获得方差远低于 REINFORCE 的路径梯度，并从每个 token 表示预测价值来优化策略。实验显示，该方法在 4 项推理任务上稳定提升了连续流语言模型表现，并优于同类基线。
arXiv cs.LGAI 评分3535 基于局部信任域优化的策略内知识蒸馏 Token 效用
研究者基于局部信任域优化直接从蒸馏目标推导 token 效用，并提出连续、均值归一化的 token 加权方法 Fisher Utility Weighting（FUW）。
arXiv cs.LGAI 评分3535 用于仅有答案数据下高效后训练与验证的逆向推理模型
研究人员提出一种基于仅有答案数据的逆向推理模型自蒸馏方法，通过条件生成思维链（CoT）轨迹实现高效后训练与验证。在 Qwen3-0.6B 的 Countdown 和 GSM8K 实验中，该方法单轮离线蒸馏使困难提示词的 pass@1 翻倍，并在多项尾部指标上超越拒绝采样自蒸馏。
Google Research精选AI 评分6363 Google Earth AI 推出地理空间推理智能体并开放早期测试
Google Research 宣布升级 Earth AI 地理空间推理智能体，并发布相关技术报告与 GeoKTools、GeoExpertQueries 两个新基准。
推荐理由：原文展示了如何将地理基础模型与规划机制结合处理复杂空间数据，读者可以参考其通过专业工具包与前期规划解决跨模态空间推理的设计思路。
Google DeepMind精选AI 评分8888 Google DeepMind 发布前沿模型 Gemini 4 Argon
Google DeepMind 正式发布前沿模型 Gemini 4 Argon，主打编码、科研与多步骤复杂任务，并在评估关键经济领域能力的 Vals Index 评测中位列第一。
推荐理由：官方给出了在代码库重构与科学计算中的实测细节，开发者可据此评估其深层推理与智能体作业价值。
Google DeepMind精选AI 评分8080 Google DeepMind 详解 Gemini 4 Argon 安全与对齐开发实践
Google DeepMind 阐释了 Gemini 4 Argon 的安全与对齐防御体系，涵盖高危滥用防范、实时对齐监控和提示词注入防御。系统引入包含激活探针在内的三层实时防护，并实时监控智能体的操作与思维链以阻止越界行为；实验发现不惩罚思维链中的投机想法能有效避免模型隐蔽违规。在 Gray Swan 的 IPI 基准测试中，该模型的攻击成功率降至 0.7%。
推荐理由：原文揭示了惩罚思维链会导致模型转为隐蔽作弊的实验结论，为智能体安全监控提供了可迁移的工程参考。
Google AI Blog精选AI 评分8888 Google 发布 Gemini 4 Argon 前沿大模型
Google 正式面向全球推出 Gemini 4 Argon 模型，主打长任务深度推理与复杂工程、科研及商业工作流处理。该模型具备 1M 统一输入输出 token 限制，API 定价为每百万输入 token 2 美元、每百万输出 token 10 美元（缓存输入享 95% 折扣）。
推荐理由：官方披露了新模型在代码重构、科学计算和具身智能领域的实测提效数据，读者可借此评估其在长链路复杂工程中的实际价值。
AWS Machine Learning BlogAI 评分3939 Amazon SageMaker AI 上的混合专家模型 Kernel 工程优化
AWS 针对 NVIDIA Hopper 架构优化了 Amazon SageMaker AI 上的 Fused MoE Kernel 实现。
AWS Machine Learning BlogAI 评分5959 在 Amazon Bedrock 上基于 Grok 4.7 构建长周期智能体
AWS 宣布 Grok 4.7 上线 Amazon Bedrock，支持 500K 上下文、工具调用与可配置推理强度（reasoning effort）。官方测试显示，在三类需要搜索验证的复杂任务中，智能体在 72 次测试中取得 67 次正确，其中最高推理强度达到全部正确，而最低档位仅消耗约八分之一的输出 token 便取得 15/18 的正确率。
Apple ML ResearchAI 评分5353 苹果与 JHU 提出 SELFCOMPACT：让大语言模型智能体自主压缩长上下文
苹果与约翰斯·霍普金斯大学研究人员提出 SELFCOMPACT 框架，使大语言模型智能体无需微调即可在推理期自主决定何时及如何压缩上下文轨迹。该方法结合了上下文压缩工具与轻量级触发规则，在 6 个基准测试和 7 个模型上验证，相比无压缩基线在数学任务上最高提升 18.1 点、智能体搜索任务上提升 5–9 点，同时降低了 30–70% 的单题 token 成本。
AWS Machine Learning BlogAI 评分5050 在泰国、马来西亚、新加坡、印度尼西亚和中国台湾通过 Amazon Bedrock 全球跨区域推理访问 OpenAI GPT 模型
Amazon Bedrock 在新加坡、雅加达、马来西亚、泰国和中国台北等 5 个 AWS 区域提供 OpenAI GPT-6 Sol 与 GPT-6 Luna 的全球跨区域推理，并在新加坡区域提供 GPT-6 Astra。
arXiv cs.LGAI 评分4141 轨迹感知策略优化（TAPO）：弥合长程 LLM 强化学习中的状态分布差距
研究人员提出轨迹感知策略优化（TAPO），通过从离线策略梯度中推导状态分布修正并引入强化学习目标，解决长程自回归推演中的状态分布偏移问题。TAPO 采用几何平均估计器降低方差，并结合长度感知动态裁剪防止轨迹过度更新。在 8 个竞赛级基准测试中，TAPO 相比 GRPO 在数学推理和算法编程上分别取得最高 48% 和 12% 的性能提升。
arXiv cs.LGAI 评分4040 广义近端策略优化（GPPO）：从散度视角统一 LLM 强化学习算法
研究人员提出广义近端策略优化（GPPO），从散度视角构建起统一 LLM 强化学习算法的理论框架。该方法基于广义 f-散度信任域理论并引入新型估计器拓扑，将 PPO 以及 DAPO、DPPO、RIPO 等变体统一纳入“散度×估计器”二维设计空间中。在 8 个竞赛级数学与代码评测基准上，表现最佳的 GPPO 实例在数学和代码任务上分别超越标准 GRPO 高达 50% 与 14%，取得 SOTA 性能。
arXiv cs.LGAI 评分3232 跨行为策略优化（CBPO）：通过共享回归目标统一学习离线演示与同/异策略 Rollout
研究者提出跨行为策略优化 CBPO，通过固定参考目标将离线演示以及同策略、异策略 rollouts 统一到单一回归损失中，无需协调独立的 SFT 与 RL 目标或依赖 Critic。
arXiv cs.LGAI 评分3535 TreeHCA：面向多轮 LLM Agent 的后见引导探索与信用分配机制
TreeHCA 将后见引导探索与后见信用分配相结合，用于解决 GRPO 等结果监督方法在多轮 LLM Agent 轨迹中无法区分有效与无效决策的问题。它利用参考答案似然变化重新访问中间历史并采样替代分支构建交互树，通过逆后见重要性校正和归一化树回溯计算轮次级优势。
arXiv cs.LGAI 评分4343 在大规模推理与训练负载中部署 RDMA
字节跳动研发并在参数服务器推理与训练系统中部署了基于硬件 RDMA 的软件通信层 ByteExpress。在生产环境推理中，ByteExpress 相比内核 TCP 分别将平均与 P99 模型参数拉取延迟降低 35.7% 和 43.7%，并降低 10.69% 的总 CPU 使用率。在训练场景下，其将 P99 模型参数推送延迟最多降低 74.0%，且运行时未出现 PFC 暂停。
arXiv cs.LGAI 评分4141 REDaCT：面向大型推理模型的无崩溃遗忘学习框架
研究人员提出面向大型推理模型的推理期遗忘学习框架 REDaCT，在清除遗忘集信息的同时完全避免了推理崩溃。该框架通过二元泄露检测器定位推理链中的泄露语句，并在推理阶段注入离线学习的纠正性嵌入以引导安全推理。实验表明，REDaCT 显著改善了推理保留能力，并同时实现了完美的答案遗忘与接近完美的 CoT 遗忘。
arXiv cs.LGAI 评分4040 Kronecker Product Attention：基于结构化分解的高效 KV 缓存压缩
研究团队提出 Kronecker Product Attention（KPA），将 KV 激活值表示为紧凑矩阵因子的克罗内克积之和，实现最高 10x 的 KV cache 压缩。该方法严格泛化了 TPA，并通过匹配的结构化旋转嵌入消除了类似 MLA 的解耦 RoPE 分支。在相同训练条件下，KPA 在 4 个模型规模和 9 个下游基准上性能达到或超过 MHA、MQA、GQA 与 MLA。
arXiv cs.LGAI 评分3535 用于机器学习应用的代数整数重整化（AIQ）
研究者提出了代数整数格式（AINF）并推出用于大语言模型推理的有损压缩格式代数整数量化（AIQ）。AINF 可直接简化为纯整数运算，实现无误差乘加操作，并支持根据具体用例定制数值特征。实验表明，基于二次代数整数的 AIQ 在相同每参数比特预算下，在多个模型与基准测试中均取得了与行业标准 MX 格式相当的精度。
arXiv cs.AIAI 评分4141 Rollout-Time Intervention：突破策略边界解锁智能体强化学习
研究人员提出 Rollout-Time Intervention（RTI）技术，通过在 rollout 采样期间利用奖励端证据将错误轨迹纠正为成功轨迹，突破大语言模型（LLM）智能体在强化学习中的 on-policy 探索瓶颈。该方法过滤掉分布偏移过大的轨迹以稳定指导策略优化。在 5 个基准测试上的实验表明，RTI 持续优于强化学习基线，相关代码已开源。
arXiv cs.AIAI 评分4444 用于工具集成化学推理的掩码扩散语言智能体 ChemDiffAgent
研究者提出了首个用于工具集成化学推理的掩码扩散语言智能体 ChemDiffAgent，将化学推理重构为在交替推理与工具使用轨迹上的迭代去噪过程。通过包含智能体监督微调和降方差偏好优化的两阶段后训练框架，该方法在涵盖 6 项化学任务的基准测试中比自回归智能体提升约 20%。其 8B 模型表现媲美甚至在部分场景超越了 GPT 5.5 和 Claude Opus 4.7 等前沿大模型，相关代码已开源。
arXiv cs.AIAI 评分4343 BoundaryEvo：面向长链推理蒸馏的能力边界数据-模型协同演化框架
研究者提出了两阶段数据-模型协同演化框架 BoundaryEvo，用于将大模型的长链推理能力蒸馏给小模型。该框架先通过初始蒸馏赋予学生模型基础推理能力，再动态筛选学生未掌握但专家能解决的问题以演化训练数据。
arXiv cs.AIAI 评分3333 AdaC-GRPO：通过自适应课程学习攻克长程视觉数独难题
研究人员提出 AdaC-GRPO 强化学习框架与细粒度基准 FG-Sudoku，用于解决前沿多模态大模型在长程视觉数独任务中因低成功率导致的奖励稀疏问题。该方法通过在线采样准确率动态追踪模型的最近发展区来构建训练批次。
arXiv cs.AIAI 评分3939 面向大语言模型多智能体系统的能力感知编排框架
研究人员提出一种用于大语言模型多智能体系统（MAS）的两阶段能力感知自动编排框架，通过建模基座模型对当前任务的能力来动态调整角色激活与通信图。该方法在 6 个基准测试中取得 93.81% 的平均分。针对高能力基座模型，其将平均准确率从 87.22 提升至 89.97，同时降低 36.26% 的 token 成本；针对低能力基座模型，相比现有方法平均获得 4.58 分的额外提升。
arXiv cs.AIAI 评分3535 DP-MIND：面向百万 token 级长上下文的差分隐私推理框架
研究人员提出 DP-MIND 框架，将差分隐私（DP）推理扩展至百万 token 级别的长上下文场景。该方案在本地扰动输入后按分块处理，利用紧凑内存保留跨序列的任务相关信息，并通过强化学习结合本地去噪模块提升抗噪能力与答案恢复度。在上下文长度达百万 token 级的多个长上下文评测中，DP-MIND 的可扩展性与效用均优于现有基线。
arXiv cs.AIAI 评分3838 VETR：面向符号图形推理的执行落地自改进智能体框架
研究人员提出 VETR 框架，通过可执行世界表征实现符号图形推理的智能体递归自改进。该框架保留对齐的程序与渲染记录，利用执行细化器将运行时的写入与状态变化编译为受约束的替代程序，修复过程无需额外的语言模型调用。