arXiv cs.AI· Kuan Zhang, Yukun Chen, Zhihao Yang, Yue Su, Xiangnan Wu, Zirong Chen, Run Luo, Jinkun Hou, Tao Tan, Yinhe Zheng, Yiming Li·· 11 天前AI 评分40
游戏中的扩展规律：面向多样虚拟世界具身智能体的持续预训练
Scaling in Games: Continued Pre-Training For Embodied Agents In Diverse Virtual Worlds
AI 导读
针对虚拟世界具身智能体的持续预训练研究测试了 0.8B 至 27B 规模与 50 至 1,600 小时数据，涵盖 120 种训练配置。研究拟合了验证损失与数据量、多样性及模型规模的经验扩展定律，发现数据多样性有助于向相关虚拟世界迁移。所得模型在 3D 实时环境中媲美 Minecraft 专家模型，但面对差异较大的世界仍存在泛化差距。
来源：arXiv cs.AI · arxiv.org