arXiv cs.LG· Shuqi Liu, Yuzhou Cao, Luke Ong·· 7 天前AI 评分35
通过按查询模态选择实现高效全模态大语言模型推理
Efficient Omni-modal Large Language Model Inference via Per-Query Modality Selection
AI 导读
研究提出面向全模态大语言模型(Omni-LLM)的逐查询模态选择方法,在保持模型固定的前提下自适应选取输入模态,以优化准确率与推理成本的权衡。在 WorldSense 基准上评估 Qwen2.5-Omni 与 Qwen3-Omni 发现,该方法表现均优于全模态输入基线。
来源:arXiv cs.LG · arxiv.org