跳到正文

#评测/基准

今日 1 条
9月17日周四
  1. Apple ML Research35

    REVERSAL-BENCH:测量无重置强化学习断崖的可逆性维度与 reset oracle

    研究团队推出强化学习基准 REVERSAL-BENCH,通过连续参数 ρ ∈ [0, 1] 控制可逆性,并在 5 个物理引擎的 8 种操作场景中提供状态可恢复性验证机制 reset oracle。评测揭示了显著的可逆性断崖:无重置智能体会随 ρ 增大永久陷入不可恢复状态并导致学习停滞。团队同步发布了该基准套件、标注可恢复性的多仿真器数据集以及 reset oracle。

9月16日周三
8月27日周四
  1. Google DeepMind60

    Google DeepMind 试点双盲 AI 评测机制

    Google DeepMind 联合新加坡 AI 安全局、OpenMined、AVERI 与 MLCommons 试点双盲 AI 评测机制,以解决基准测试污染问题。该方案将测试置于加密隐私保护环境中运行 Gemini Flash Lite 模型,确保专有前沿模型无法提前接触外部评测提示词,防止人为拉高跑分并提升评测可信度。

    推荐理由:原文介绍了利用加密环境隔绝基准测试题目的机制,为解决大模型评测污染和分数虚高提供了具体方案。

8月21日周五
  1. Together AI Blog73

    GLM-5.3 与 Claude Fable 5 在 DeepSWE 基准下的成本与编程能力对比

    Together AI 在 DeepSWE 软件工程基准上实测了 GLM-5.3 与 Claude Fable 5,两者首答通过率基本持平(69.0% 对 69.7%),但 GLM-5.3 的单次运行成本低 5.4 倍(3.99 美元对 21.63 美元)。

    推荐理由:实测通过细分语言和重试表现对比了两款模型,为工程团队在代码智能体中设计模型路由与控制成本提供了参考。

  2. Together AI Blog74

    GLM-5.3 与 GPT-5.6 Sol 在 DeepSWE 上的对比评测:成本、编码与路由策略

    Together AI 在 DeepSWE 基准上对 GLM-5.3 与 GPT-5.6 Sol 展开了 904 次实测,GPT-5.6 Sol 以 72.7% 的 pass@1 保持单次精度领先,而 GLM-5.3 单次成本仅需 3.99 美元(约为前者的一半)并在 pass@4 达到 87.6% 实现反超。

    推荐理由:实测对比了模型单次精度与多轮重试下的性价比差异,给出了低成本优先结合测试验证回退的工程路由策略。

8月17日周一
  1. Together AI Blog71

    DeepSWE 评测对比 DeepSeek V4 Pro 0813 与 Claude Fable 5 的成本、代码能力与路由策略

    Together AI 在 DeepSWE 软件工程基准上对比了 DeepSeek V4 Pro 0813 与 Claude Fable 5,Fable 5 的单次尝试成功率(pass@1)以 69.7% 领先 Pro 的 62.8%,但每次 rollout 成本为 $21.63,是 Pro($0.24)的 90 倍。

    推荐理由:原文提供了两款模型在多语言和重试机制下的成本收益对比,展示了结合测试集做级联路由的具体收益。

8月13日周四
  1. Microsoft Research45

    MindTopo 揭示视觉语言模型的空间推理能力

    微软研究院推出全新评测基准 MindTopo,用于评估视觉语言模型在连通性、包围、顺序、分离和绳结五个维度的拓扑空间推理与规划能力。评测结果显示,受测闭源与开源模型在静态推理上的表现普遍显著优于交互规划,且两者均远低于人类水平。模型失误主要出现在行动规划阶段,难以在多步动作序列中持续追踪拓扑结构演变或遵守物理约束。

8月6日周四
  1. Together AI Blog74

    Together AI 实测对比 DeepSeek-V4 Flash 与 GPT-5.6 Luna 在 DeepSWE 的编码表现与成本

    Together AI 在 113 项 DeepSWE 真实编码任务上实测对比了 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna,结果显示 Luna 准确率更高而 DeepSeek 单任务成本仅为其六分之一。

    推荐理由:评测展示了将廉价模型作为前置过滤并在失败时升级旗舰的级联方案,能以更低综合成本获取更高准确率。

6月23日周二
6月17日周三
  1. Together AI Blog61

    Kimi K2.7 Code 对比 Claude Fable 5:落地页生成成本降低 94%

    Together AI 测试对比了 Kimi K2.7 Code 与 Claude Fable 5 生成 12 个落地页的效果,结果显示 Kimi 生成成本比 Fable 5 降低约 94%,平均便宜约 16 倍且产出质量接近。

    推荐理由:测试展示了借助 MCP 补充多模态视觉参考来弥补开源代码模型设计短板的方案,同时大幅压缩落地页生成的调用成本。

5月19日周二
10月5日周日
  1. Ahead of AI68

    从零理解大语言模型评测的四种主流方法

    Sebastian Raschka 撰文梳理了大语言模型评测的四种主流方法,将其归纳为基于基准的多选题与验证器,以及基于判断的偏好排行榜与 LLM 裁判。文中提供了纯 PyTorch 下 MMLU 选项打分、数学代码结果验证器比对、基于 Elo 积分的胜负排行榜,以及通过本地 Ollama 驱动模型作为裁判打分的完整代码实现。