跳到正文
热点事件观察中

研究提出辅助轨迹奖励优化小模型自我改进与迁移能力

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年11月2日,arXiv发布的研究提出利用辅助轨迹偏好来促进小语言模型的自我改进与迁移。该方法旨在区分产出相同正确答案的不同推理轨迹,从而有效发掘等效正确轨迹在推理阶段未体现的学习价值。在基于Qwen3-1.7B的实验中,采用UID-Conj.奖励后,在线宏平均较未修改的TTRL提升了2.08个百分点;在离线加权SFT中,较均匀加权提升了1.93个百分点。此外,研究指出该辅助偏好的收益具有任务依赖性。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.AI
    基于辅助奖励的自我改进:从验证轨迹中学习与迁移评估

    研究提出利用辅助轨迹偏好促进小语言模型的自我改进与迁移,以区分产出相同正确答案的不同推理轨迹。在 Qwen3-1.7B 实验中,UID-Conj. 奖励使在线宏平均较未修改 TTRL 提升 2.08 个百分点,离线加权 SFT 较均匀加权提升 1.93 个百分点。辅助偏好能有效发掘等效正确轨迹在推理阶段未体现的学习价值,且收益具任务依赖性。

本事件热度走势

当前热度 5·可比范围峰值 5(11月3日 14:00)·近 24 小时可比范围变化 –

024611月3日14:0011月3日15:0011月3日16:0011月3日17:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。