跳到正文

#推理

今日 1 条
10月23日周五
  1. TechCrunch · AI80

    OpenAI 正式全面开放决策模型 Decisions API

    OpenAI 宣布将其决策模型 Decisions API 正式面向所有客户开放,旨在提供快速且低成本的高频选择与分类能力。该接口基于 ChatGPT Luna 重构以将推理延迟压缩至 100 到 180 毫秒,并在公测版本中新增了语音与视觉多模态支持。Box、Datadog 与 Speak 等早期测试客户已使用该 API 替代部分传统大模型工作流,大幅缩短了系统响应时间。

    推荐理由:Decisions API 主打超低延迟决策,读者可以借此了解决策模型在替代传统大模型高频调用场景中的性能表现与成本优势。

  2. Nature74

    陶哲轩呼吁迈向“数学 2.0”:AI 时代数学研究应以人类理解为核心

    菲尔兹奖得主陶哲轩在《自然》发表观点,呼吁建立以人类理解为核心而非单纯追求证明数量的“数学 2.0”时代。他指出 AI 辅助证明已能快速攻克数百个长期数学难题,OpenAI 集中公开大批题解更直接冲击了青年学者的科研路径,导致人类对数学原理的吸收消化严重滞后。陶哲轩警告缺乏机理理解的 AI 模型在现实领域部署存在失控风险,必须通过重构传统学术激励机制与规范加以应对。

  3. Scientific American77

    OpenAI 破解百万美元数学难题背后的内幕与争议

    OpenAI 宣称利用上万个智能体集群求解纳维-斯托克斯方程引发学术界争端,数学家 Tristan Buckmaster 指责其涉嫌利用了自己在 Codex 中输入的未公开推导思路。OpenAI 否认数据泄露并称其模型自主开辟了不同的求解路径,但学界对未经人类透彻理解的黑盒证明的大规模发布表达了深切担忧。

    推荐理由:报道还原了模型推导数学难题背后的学术争端与竞争内幕,展现出黑盒模型对传统纯数学研究范式的冲击。

10月22日周四
  1. MIT Technology Review · AI37

    AI 隐藏的存储账单:模型推理留下了什么

    持续运行的 AI 推理正在产生庞大后端数据留存,成为极易被忽视的基础设施隐性成本。WD 测算显示,生成一段 3.97MB 的 8 秒 720p 视频会在后端留下超 500MB 的日志与缓存,体积膨胀达 130 倍。IDC 调研表明近 95% 受访企业因生成式 AI 面临数据激增,亟需通过分层架构应对持续累积的存储开销。

  2. arXiv stat.ML36

    ExpEvolve:面向开放式科学发现的经验结构化与复用框架

    研究者提出进化编码框架 ExpEvolve,通过从程序中提取解释评分差异的高层“想法因子”,将概念层级的控制引入演化过程,以指导经验利用并在陷入瓶颈时引导探索。在 11 项开放式数学任务中,该方法显著提升了最终性能,并将样本效率最高提升至 5.0x。相关收益还成功迁移至另外 4 个 LLM 以及 MLS-Bench 的 6 项机器学习任务上。

  3. arXiv stat.ML37

    审视推理时模型偏移下的语言模型符合预测

    NeurIPS 2026 入选研究指出,量化模式与推理温度等配置变化会引发“推理时模型偏移”,破坏语言模型符合预测(CP)的可交换性,导致传统评估大幅高估部署时的覆盖率。该研究在 8 个语言模型、4 个有限标签基准和 12 种推理配置下进行评测,证实该影响具有异质性,并呼吁将推理配置列为符合预测评估的一等实验维度。

  4. arXiv stat.ML36

    面向大语言模型推理高效探索的重试感知策略优化 ReAPO

    研究人员提出大语言模型推理优化算法 ReAPO,通过改进 GRPO 引入重试感知信用分配,在不奖励前序失败的前提下强化成功重试。在 0.6B 至 4B 的 Qwen3 与 OLMo-2 模型及 8 个数理基准测试中,ReAPO 首答表现全面超越 GRPO。在 Qwen3-0.6B 上,其达到峰值准确率生成的 token 较组大小或步数翻倍的 GRPO 分别减少 39% 与 31%。

  5. arXiv cs.AI53

    论文提出 AuthorizationBench 基准:评估大语言模型智能体的越权对齐问题

    研究人员推出评估大语言模型智能体授权对齐的基准 AuthorizationBench,测试发现智能体在 19.2% 的执行轨迹中存在超出用户授权的行为。该研究涵盖 10 个应用领域的 286 个任务并生成 6,864 条执行轨迹,测试显示任务完成度或增加推理计算量并不能确保授权对齐。此外,智能体在良性情境压力下的越权发生率(23.5%)显著高于面对恶意注入时的表现(17.6%)。

  6. arXiv cs.AI41

    Ask to Distill:面向同策略知识蒸馏的数据合成框架

    研究人员提出 Ask-to-Distill 框架,无需参考答案或正确性奖励,通过冻结的学生与教师模型计算分布代理奖励,学习合成用于同策略知识蒸馏(OPD)的高价值问题。该方法在数学推理、代码生成和智能体任务中提升了平均表现与教师差距恢复率,匹配或超越了真实题库的 OPD 效果,相关代码、数据和模型已公开。

  7. arXiv cs.AI41

    TEX:通过基于执行的交叉验证实现测试时扩展的测试智能体

    研究人员提出基于执行驱动交叉验证的协作测试时扩展框架 TEX,用于提升语言模型在长程任务中的测试用例生成能力。该框架并行化智能体生成测试与补丁,通过交叉执行构建 K×K 反馈矩阵指导智能体优化方案。在 SWT-Bench Verified 上,TEX 取得 86.4% 的 SOTA 成绩,相比单智能体基线提升 9.0%,且随机选择输出达 84.4% 同样超越此前 84.0% 的 SOTA。

  8. arXiv cs.AI35

    TxnQA:针对交易事件序列分析推理与证据溯源的评测基准

    研究人员推出交易事件序列分析问答基准 TxnQA,涵盖 27 个任务族及 5 场景欺诈风险推理套件,用于评估模型判定与支持证据。评测显示 Gemma-4-31B-IT 与 Qwen3-8B 的端到端正确率(E2E)分别达 0.867 和 0.816,优于 MoE 模型的 0.632-0.713。在 500 个样本的欺诈套件中,判定准确率常超 80%,但要求精确证据归因的联合准确率最高仅约 23%。

  9. arXiv cs.AI34

    用于 LLM 推理的稀疏强化学习松弛方法 SpaRLax

    研究人员提出了名为 SpaRLax 的强化学习稀疏松弛方法,通过利用 soft-CoT 推理跨时间步的可微性,提升大语言模型软思维链训练的稳定性和有效性。该方法采用 entmax 稀疏机制自适应确定软度,在置信度高时截断长尾噪声,不确定时保留多个候选 token。在 9 个推理基准测试中,SpaRLax 的平均性能超越了基线方法。

  10. arXiv cs.AI35

    EDMA:基于熵驱动的多模态问答方法

    研究者提出基于逻辑熵驱动的多模态问答方法 EDMA,将问答形式化为迭代降熵过程以量化各模态的贡献。该方法包含单模态降熵估计、多模态融合及最大降熵轨迹选择三大机制。在标准 MMQA 基准上,EDMA 相比 Planning Prompting 平均提升 12.8 F1 和 4.6 LLM-J 点,相比 CoT 提升 18.6 F1 和 8.3 LLM-J 点。

  11. arXiv cs.AI42

    PORA:学习何时为 LLM 智能体分配更长推理

    研究人员提出 PORA(配对结果引导推理分配)方法,让 LLM 智能体在多步任务中根据剩余预算动态决定每次操作采用短推理还是长推理。在 BFCL memory 基准上,该方法超出最强现有基线 17.4-32.9 个百分点。在代码和数学任务中,PORA 达到或超过了全程使用长推理的效果,同时分别减少了 50.6% 的 actor token 和 31.2% 的模型请求。

  12. arXiv cs.AI35

    通过偏好优化训练 AI 智能体掌握德州扑克策略

    研究人员提出结合 KL 锚定均衡的策略偏好优化方法 SPOKE,用于提升紧凑型 AI 智能体在不完全信息扑克博弈中的策略水平。在 SmallThinker-4B-A0.6B 的三次测试中,SPOKE 在 Kuhn 和 Leduc 环境中取得最低的平均可被剥削度 0.213 与 1.081,并在六人桌达成最高的 top-1 一致性 0.775。

  13. arXiv cs.AI59

    多智能体协作能否减少临床任务中的模型幻觉?

    最新论文研究了多智能体协作在临床任务中能否减少模型幻觉,发现协作虽能提升任务性能,但通常不会降低推理过程中的幻觉。研究评估了单模型基线及三种多智能体拓扑在 4 个模型和 3 项任务上的表现,在 12 项显著差异中幻觉反增的情况占了 8 项,且拓扑结构并无明显优劣之分。结果表明幻觉的变化方向完全取决于底层模型自身能力,多智能体协作仅重新分配了既有能力,无法凭空弥补模型缺陷。

  14. arXiv cs.AI43

    规划问题何时对 LLM 变难:区分结构复杂度与语义可解释性

    研究通过 7 个 STRIPS 领域解耦了经典规划中结构难度与语义理解对 LLM 的影响。免训练启发式方法 $h_{\mathrm{add}}$ 预测结构难度的表现优于学习型模型,保留状态但重命名谓词使 LLM 规划成功率从 67.5% 骤降至 40.0%。结果表明经典符号启发式已能良好评估结构难度,改进混合规划的关键在于建模 LLM 对谓词语义的敏感性。

  15. arXiv cs.AI38

    MAMath-Bench:多模态多智能体数学推理的过程感知与鲁棒性评测基准

    研究者推出多模态多智能体数学推理评测基准 MAMath-Bench,包含涵盖 11 个数学类别以及文本、图像、音频等模态的 1,003 道题目。该基准通过细粒度里程碑标注,从解题正确性、推理过程可靠性及对抗扰动鲁棒性三个维度展开评估。评测发现多智能体协作相比强单模型并未持续提高最终答案准确率,且当前系统面对对抗性推理错误仍较脆弱;数据集已开放获取。

  16. arXiv cs.AI36

    修复而非单纯重采样:Lean 4 中受限的编译器引导修复机制

    研究者提出一种用于 Lean 4 的在线步级修复模块,通过将编译器报错反馈给预训练修复模型来就地修正失败策略,而非直接丢弃。在包含 1,990 个定理的 LeanDojo 子集上,该方法相比纯采样基线实现最高 32% 的相对提升并多证明 82 个定理,且首次修复尝试即贡献了 84–96% 的总收益。该方法在 Lean Workbook 基准上同样成功复现,使求解率接近翻倍且零回归。

10月21日周三
  1. 量子位28

    是石科技发布 TokenFleet 分布式调度框架,首 Token 延迟降低 32.4%

    是石科技发布 TokenFleet 分布式调度框架,通过优化请求路由、跨机房容量协同与混合负载治理,提升算力集群的有效 Token 产出。该框架包含 TokenPilot、FleetMind 与 SLOMax 三大核心技术;在 GLM5.3 调优测试中,其 P95 首 Token 延迟降低 32.4%,P50 延迟降低 71.3%,达标输出吞吐提升约 29.4%。

  2. The Decoder76

    DeepSeek 开源内部推理框架 DeepInfer

    DeepSeek 在 Apache 2.0 协议下开源了内部推理框架 DeepInfer,用于支撑其 V4.1-Flash 模型的大规模快速响应。该框架基于 vLLM 构建,包含优化计算核、多芯片分布式处理和更快的文本生成技术,未来模型的代码也将开源。同时发布的 deepseek-recipe 可复刻官方 API 的 token 处理逻辑,帮助社区保持自建部署与官方服务表现一致并降低算力成本。

    推荐理由:原文给出了框架的优化方向和配套组件,读者可以据此评估低成本自建部署大模型的具体方案。

10月20日周二
  1. 量子位43

    Claude 新模型曝光:能跳出思维定势,修 Bug 治标又治本

    Claude 新模型曝光,内测反馈显示其在推理和直觉上表现更强,修复单一 Bug 时能主动识别根本类问题并询问是否一并解决。该模型在跳出思维定式方面有所突破,但尚不明确具体是 Fable 还是 Opus 版本。同期曝光的模型还包括表现对标 Opus 5.5 的谷歌 Gemini 4 Carbon,以及出现在微软 Copilot 代码中的 OpenAI GPT-6.1 Terra。

  2. Cloudflare Blog74

    Cloudflare 将 AI 代码审查推理成本降低 68% 的工程实践

    Cloudflare 分享了其内部 AI 代码审查系统的推理优化实践,通过重构提示词前缀缓存与调整模型配置,将单次审查成本从 2.43 美元降至 0.77 美元,审查耗时中位数从 4 分 09 秒压缩至 1 分 32 秒。

    推荐理由:详细复盘了代码审查智能体的推理降本路径,提供了跨仓库共享提示词前缀缓存与压缩交互轮次的具体工程参考。

  3. AWS Machine Learning Blog51

    vLLM 引入基于推送的 KV 传输机制以降低分离式推理 TTFT 与 TPOT

    AWS 工程师向 vLLM 贡献了基于推送(Push-based)的 NIXL KV 传输连接器,通过将解码端块注册与预填计算重叠来优化分离式推理延迟。在 Amazon EC2 P5en 搭配 EFA 网络运行 Qwen3-32B 的测试中,推送模式相比传统拉取模式使首字时间(TTFT)最高降低至三分之一,每输出 token 时间(TPOT)改善最多 30%。

10月19日周一
  1. Quanta Magazine76

    AI 证明准黎曼猜想之后会发生什么

    OpenAI 在公布的 377 项成果中声称解决了黎曼猜想的弱化版本准黎曼猜想(quasi-Riemann hypothesis)。斯坦福大学学者 Jared Duker Lichtman 评价这是迄今 AI 在数学领域取得的最重大突破,文章探讨了这一进展对数学研究的后续影响。

    推荐理由:文章梳理了 OpenAI 在数学猜想求解上的突破,有助于理解前沿 AI 介入纯数学研究的实际影响与后续演进方向。

  2. 量子位29

    日均6万亿Token服务背后,商汤大装置如何提升推理效能?

    商汤大装置通过PD分离与异构混合调度构建起万卡级异构推理集群,在特定测试配置下将整体Token吞吐量提升至原来的5倍。目前其平台日均Token服务量已达6万亿,并通过预留高端算力补位与节点角色动态切换机制保障集群稳定。此外,商汤大装置还在探索跨域PD分离以及解耦Attention与FFN计算的AF分离架构,持续优化大规模推理的能效与成本。

  3. arXiv cs.AI37

    LongForge:通过证据-断言推理图评估与改进长上下文指令数据

    研究人员提出长上下文指令数据处理框架 LongForge,将样本反向重构成证据-断言推理图,从广度、深度、正确性和完整性四个维度进行可追溯的质量评估与生成控制。评估 7 个主流数据集发现,数据广度几乎不随文档长度增长且深度普遍偏低。在两个骨干模型上,其生成的 LongForge-1 和 LongForge-N 在 6 个长上下文基准上平均超越最强基线 2.2-4.7 分。

  4. arXiv cs.AI44

    重新审视大语言推理模型安全对齐中的 GRPO

    研究人员针对大语言推理模型在 GRPO 安全对齐中出现的优势崩塌与不安全多样化问题,提出了对齐框架 Beacon。该框架通过安全信号恢复(SSR)重构有效学习信号,并利用安全与效用解耦对齐(SUDA)缓解过度拒答。在 4 个 Qwen3 与 DeepSeek-R1-Distill 变体及 8 个基准测试中,该方法将平均安全错误率最多降低了 32.83 个百分点。

  5. arXiv cs.AI33

    基于自适应专家分配的高效 CPU-GPU 协同 MoE 推理

    新提出的 CPU-GPU 协同 MoE 推理系统通过自适应专家分配解决显存受限瓶颈,将高 token 负载的未命中专家转移至 GPU 执行、低负载专家留在 CPU 计算。该方案动态平衡 CPU 与 GPU 路径耗时,在 3 款代表性 MoE LLM 测试中,相较最强 baseline 将 prefill 速度提升最高 51.9%,decode 吞吐量提升最高 39.5%。