REVERSAL-BENCH:测量无重置强化学习断崖的可逆性维度与 reset oracle
研究团队推出强化学习基准 REVERSAL-BENCH,通过连续参数 ρ ∈ [0, 1] 控制可逆性,并在 5 个物理引擎的 8 种操作场景中提供状态可恢复性验证机制 reset oracle。评测揭示了显著的可逆性断崖:无重置智能体会随 ρ 增大永久陷入不可恢复状态并导致学习停滞。团队同步发布了该基准套件、标注可恢复性的多仿真器数据集以及 reset oracle。
研究团队推出强化学习基准 REVERSAL-BENCH,通过连续参数 ρ ∈ [0, 1] 控制可逆性,并在 5 个物理引擎的 8 种操作场景中提供状态可恢复性验证机制 reset oracle。评测揭示了显著的可逆性断崖:无重置智能体会随 ρ 增大永久陷入不可恢复状态并导致学习停滞。团队同步发布了该基准套件、标注可恢复性的多仿真器数据集以及 reset oracle。
NVIDIA 公布 MLPerf Inference v6.1 评测结果,其新系统 Vera Rubin NVL72 在 Qwen3-VL 上的吞吐量达到 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上吞吐量提升达 2.5 倍。
Google DeepMind 联合新加坡 AI 安全局、OpenMined、AVERI 与 MLCommons 试点双盲 AI 评测机制,以解决基准测试污染问题。该方案将测试置于加密隐私保护环境中运行 Gemini Flash Lite 模型,确保专有前沿模型无法提前接触外部评测提示词,防止人为拉高跑分并提升评测可信度。
推荐理由:原文介绍了利用加密环境隔绝基准测试题目的机制,为解决大模型评测污染和分数虚高提供了具体方案。
Together AI 在 DeepSWE 软件工程基准上实测了 GLM-5.3 与 Claude Fable 5,两者首答通过率基本持平(69.0% 对 69.7%),但 GLM-5.3 的单次运行成本低 5.4 倍(3.99 美元对 21.63 美元)。
推荐理由:实测通过细分语言和重试表现对比了两款模型,为工程团队在代码智能体中设计模型路由与控制成本提供了参考。
Together AI 在 DeepSWE 基准上对 GLM-5.3 与 GPT-5.6 Sol 展开了 904 次实测,GPT-5.6 Sol 以 72.7% 的 pass@1 保持单次精度领先,而 GLM-5.3 单次成本仅需 3.99 美元(约为前者的一半)并在 pass@4 达到 87.6% 实现反超。
推荐理由:实测对比了模型单次精度与多轮重试下的性价比差异,给出了低成本优先结合测试验证回退的工程路由策略。
Together AI 在 DeepSWE 软件工程基准上对比了 DeepSeek V4 Pro 0813 与 Claude Fable 5,Fable 5 的单次尝试成功率(pass@1)以 69.7% 领先 Pro 的 62.8%,但每次 rollout 成本为 $21.63,是 Pro($0.24)的 90 倍。
推荐理由:原文提供了两款模型在多语言和重试机制下的成本收益对比,展示了结合测试集做级联路由的具体收益。
微软研究院推出全新评测基准 MindTopo,用于评估视觉语言模型在连通性、包围、顺序、分离和绳结五个维度的拓扑空间推理与规划能力。评测结果显示,受测闭源与开源模型在静态推理上的表现普遍显著优于交互规划,且两者均远低于人类水平。模型失误主要出现在行动规划阶段,难以在多步动作序列中持续追踪拓扑结构演变或遵守物理约束。
Together AI 在 113 项 DeepSWE 真实编码任务上实测对比了 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna,结果显示 Luna 准确率更高而 DeepSeek 单任务成本仅为其六分之一。
推荐理由:评测展示了将廉价模型作为前置过滤并在失败时升级旗舰的级联方案,能以更低综合成本获取更高准确率。
Together AI 推出面向多 GPU 内核生成的评测基准 ParallelKernelBench(PKB),包含来自真实分布式代码库的 87 个任务,评测显示前沿大模型目前难以独立编写高效的多卡通信内核。
Together AI 测试对比了 Kimi K2.7 Code 与 Claude Fable 5 生成 12 个落地页的效果,结果显示 Kimi 生成成本比 Fable 5 降低约 94%,平均便宜约 16 倍且产出质量接近。
推荐理由:测试展示了借助 MCP 补充多模态视觉参考来弥补开源代码模型设计短板的方案,同时大幅压缩落地页生成的调用成本。
Together AI 推出面向高并发、长上下文编程智能体场景的推理基准测试,并在 Kimi K2.5 上对比了其推理引擎与 TensorRT-LLM 及 SGLang 的性能。
Sebastian Raschka 撰文梳理了大语言模型评测的四种主流方法,将其归纳为基于基准的多选题与验证器,以及基于判断的偏好排行榜与 LLM 裁判。文中提供了纯 PyTorch 下 MMLU 选项打分、数学代码结果验证器比对、基于 Elo 积分的胜负排行榜,以及通过本地 Ollama 驱动模型作为裁判打分的完整代码实现。