跳到正文
原文
arXiv cs.LG· Shuqi Liu, Yuzhou Cao, Luke Ong·· 7 天前AI 评分35

通过按查询模态选择实现高效全模态大语言模型推理

Efficient Omni-modal Large Language Model Inference via Per-Query Modality Selection

AI 导读

研究提出面向全模态大语言模型(Omni-LLM)的逐查询模态选择方法,在保持模型固定的前提下自适应选取输入模态,以优化准确率与推理成本的权衡。在 WorldSense 基准上评估 Qwen2.5-Omni 与 Qwen3-Omni 发现,该方法表现均优于全模态输入基线。

来源:arXiv cs.LG · arxiv.org