arXiv cs.LG· Benhao Huang, Chufan Shi, Junlin Chen, Shicheng Wen, Zhengzhong Liu, Eric Xing, Xuezhe Ma·· 15 天前AI 评分43
循环大语言模型设计研究（第一部分）：拓扑结构、输入注入与循环状态
Towards Looped Models Done Right, Part I: Topology, Input Injection, Recurrent-State Design
AI 导读
研究人员系统解构了循环大语言模型中的拓扑结构、输入注入和循环状态设计，证实 Huginn 架构在 730M 参数及 336B token 规模下全面优于 Ouro。
来源：arXiv cs.LG · arxiv.org