arXiv cs.AI· Haggai Roitman·· 7 天前精选AI 评分63
System 1 决策模型指南:超越大语言模型的快速决策架构
The Hitchhiker's Guide to System 1 Models: Fast Decision-Making Beyond LLMS
AI 导读
研究者发布关于 System 1 决策模型的综合指南,探讨如何通过单次前向传播直接输出结构化决策,解决大语言模型自回归推理在路由、门控、打分和分类等常规决策中延迟高与成本贵的问题。
推荐理由
该文梳理了单次前向传播的快速决策架构,为高吞吐工作流中降低模型延迟与调用成本提供了系统参考。
来源:arXiv cs.AI · arxiv.org