跳到正文
原文
Together AI Blog·· 2026-03-31AI 评分52

Together AI 开源基于强化学习的投机采样框架 Aurora

Aurora

AI 导读

Together AI 开源投机采样框架 Aurora,将草稿模型训练转变为基于强化学习的在线持续学习闭环,在 Qwen3 等模型上比静态草稿模型实现额外 1.25 倍加速。该框架将推理与训练服务器解耦,利用线上请求中接受与拒绝的 token 轨迹异步更新草稿模型并进行无感热替换,有效解决了离线蒸馏成本高昂以及线上请求分布漂移导致的性能衰退问题。

来源:Together AI Blog · together.ai