arXiv cs.LG· Qinyou Wang·· 12 天前AI 评分34
隐藏学习结构的动力学研究
Dynamics of Hidden Learning Structure
AI 导读
研究人员提出了纤维调节理论(FRT)与纤维获取理论(FAT),用于刻画模型隐藏学习结构中的受保护功能修复及可训练结构更新动力学。在 Qwen2.5-32B 结合 AdamW、经验回放与输出知识蒸馏的实验中,受保护 head 修复与固定容量 LoRA 更新的协同策略在全部四项对比中均取得了高于单一策略的 teacher-forced Exact 表现。
来源:arXiv cs.LG · arxiv.org