arXiv cs.AI· Shenghui Li, Thiemo voigt·· 6 天前AI 评分35
低预算 LoRA：面向适配器集群的功能感知事后压缩
LoRA on a Budget: Function-Aware Post-Hoc Compression for Adapter Fleets
AI 导读
研究提出功能秩分配方法 FRA，用于在共享资源预算下对 LoRA 适配器集群进行功能感知的事后压缩。该方法通过端到端测量独立模块截断并结合动态规划构建秩-失真边界，再执行集群级 minimax 秩预算分配。在 3 个公开集群共 78 个适配器的测试中，FRA 在受限预算下相比均匀谱压缩提升了最差情况与尾部效用。
来源：arXiv cs.AI · arxiv.org