跳到正文
原文
arXiv cs.LG· Yushu Wang, Renkai Yang, Jingcao Xu, Zili Geng, Haihong Tang, Yaohui Jin, Hao He·· 15 天前AI 评分34

GR-OPD:面向同策略蒸馏的组内相对序列信用分配机制

GR-OPD: Group-Relative Sequence Credit for On-Policy Distillation

AI 导读

研究者提出 GR-OPD(Group-Relative On-Policy Distillation),将 token 级教师反馈聚合为校准后的序列级信用,以解耦反馈计算与信用分配。

来源:arXiv cs.LG · arxiv.org