arXiv cs.LG· Ran Li, Lei Chen·· 27 天前AI 评分43
学会决策而非推理：基于低秩激活导向的参数高效决策算子
Learning to Decide, Not to Reason: Parameter-Efficient Decision Operators via Low-Rank Activation Steering
AI 导读
研究提出一种基于低秩激活导向的 System-1 决策算子，通过行为克隆训练将语言模型技能注入成本降低约两个数量级。默认算子仅用 330K 参数即可匹敌 1.33M 参数的强化学习算子，将 3,685-token 思考过程压缩为 6-token 决策且无精度损失。该方案适配 5 项任务与 3 个基座模型，技能可在推理时进行相加、插值与热插拔。
来源：arXiv cs.LG · arxiv.org