arXiv cs.AI· Zhixu Du, Weijia Han, Hai Helen Li, Yiran Chen·· 29 天前AI 评分44
一个 Token 需要多少算力？基于 MoA 测定单 Token 充分计算量
What Does a Token Cost? A Mixture-of-Agents Measurement of Sufficient Per-Token Compute
AI 导读
一项研究通过涵盖 Qwen、OLMo 等家族的 15 个大语言模型构建 MoA 框架，首次测定了生成单个 token 所需的充分计算量。测试发现 0.5B 智能体在核心 benchmark 上即可复现 92%–95% 的 token，而最昂贵的 10% token 占据了 64%–80% 的预估 FLOPs。
来源：arXiv cs.AI · arxiv.org