arXiv cs.LG· Aryan Chowdhury, Yizheng Sun, Thomas Carroll, Riza Batista-Navarro·· 16 小时前AI 评分31
MOSAIC:通过模态分区梯度路由解决任务-模态不均衡依赖
MOSAIC: Addressing Disproportionate Task-Modality Dependencies via Modality-Partitioned Gradient Routing
AI 导读
研究提出 MOSAIC 架构,通过保留单模态表征并引入模态间跨注意力受控交互,利用特定模态损失引导梯度路由,以解决多任务场景中任务对模态的不均衡依赖。在日常日语会话语料库 CEJC 的 4 个任务测试中,MOSAIC 相比传统融合基线将平均 macro-F1 提升了 7.4 点,同时骨干网络参数量减少了 72%。
来源:arXiv cs.LG · arxiv.org