跳到正文
原文
arXiv cs.AI· Dingjie Song, Zhiling Yan, Yuxuan Zhang, Lichao Sun·· 18 天前AI 评分42

LEV:基于循环决策模型的快深兼备思考架构

LEV: Thinking Fast and Deep with Looped Decision Models

AI 导读

研究提出决策模型 LEV,通过在循环中重跑网络层代替生成 token,让单组权重检查点可在任意计算深度回答问题。在 JevBench 基准上,2.6B 规模的 LEV 准确率从深度 1 的 63.2% 提升至深度 4 的 76.2%,配合小型终止器按需设定深度可节省 15% 至 24% 的计算量。

来源:arXiv cs.AI · arxiv.org