arXiv cs.LG· Wen Ye, Ailin Deng, Zirui Wang, Shixing Yu, Han Zhang, Tian Yun, Nikhil Mehta, Tarun Kalluri, Xuefei Cao, Xuezhe Ma, Hengduo Li·· 11 天前AI 评分33
多模态推理的最小编辑策略内知识蒸馏方法
Edit, Don't Imitate: Minimal-Edit On-Policy Distillation for Multimodal Reasoning
AI 导读
研究人员提出用于多模态推理的最小编辑策略内知识蒸馏方法,利用教师模型评估错误推理并仅对教师不认可的 token 进行针对性修正,正确推理则接受任务奖励强化学习。该方法在测试阶段无需图像描述即可达到或超越基准模型输入参考描述的性能,显著增强了几何感知能力,且使用同尺寸冻结模型作为教师同样有效。
来源:arXiv cs.LG · arxiv.org