arXiv cs.AI· Jie Jin, Ziyin Ma, Min Yin, Jinyu Chen, Haigang Song, Zhikun Pang, Xiaowen Zhang·· 29 天前AI 评分45
无需解码的批处理语音决策：单 token 监督让冻结 LLM 听懂转录文本之外的信息
Batched Speech Decisions Without Decoding: Single-Token Supervision Lets a Frozen LLM Hear Beyond the Transcript
AI 导读
研究人员提出 DuplexJev 架构，将 ASR 编码器状态传入冻结的 LLM 并直接读取单 token 选项分布，无需自回归解码即可在 8-GPU 节点上约 0.1 s 内完成 8 段语音的 80 项决策。
来源：arXiv cs.AI · arxiv.org