arXiv cs.AI· Dhananjay Ashok, Shantanu Agarwal, Vivek Datla, Jonathan May, Alfy Samuel·· 29 天前AI 评分44
如何训练世界模型：基于大语言模型的微调与 RAG 对比
How To Train Your World Model: Fine-tuning vs RAG for LM-based World Modeling
AI 导读
一项跨 5 类环境的系统评估显示，基于大语言模型构建世界模型时微调通常优于 RAG，在 15/20 种设定下使智能体获得了更高奖励。研究指出 RAG 数据效率更高，但微调在扩展经验规模时收益更显著，且检索模块易给出次优状态转换。团队据此提出分层查询重构并构建兼顾参数化与记忆检索的混合系统，在多环境与模型下均取得最优表现。
来源：arXiv cs.AI · arxiv.org