arXiv stat.ML· Aryan Das, Arnab Bhattacharya, Vinay Kumar Verma·· 19 天前AI 评分33
用于策略优化的函数空间时间自蒸馏方法 FSPO
Function-Space Temporal Self-Distillation for Policy Optimization
AI 导读
FSPO 是一种面向策略优化的单策略自蒸馏框架，通过将稀疏历史 next-token 分布存为固定时间目标，无需维护常驻教师模型即可提供稳定指导。在推理与工具调用基准中，FSPO 在 5-hour 训练预算下取得最高平均准确率，比最强基准提升约 4% 个百分点。在 Olmo3-7B-Instruct 上，其峰值显存从约 70 GB 降至 56 GB。
来源：arXiv stat.ML · arxiv.org