arXiv cs.AI· Dingjie Song, Zhiling Yan, Yuxuan Zhang, Lichao Sun·· 18 天前AI 评分42
LEV:基于循环决策模型的快深兼备思考架构
LEV: Thinking Fast and Deep with Looped Decision Models
AI 导读
研究提出决策模型 LEV,通过在循环中重跑网络层代替生成 token,让单组权重检查点可在任意计算深度回答问题。在 JevBench 基准上,2.6B 规模的 LEV 准确率从深度 1 的 63.2% 提升至深度 4 的 76.2%,配合小型终止器按需设定深度可节省 15% 至 24% 的计算量。
来源:arXiv cs.AI · arxiv.org