arXiv cs.LG· Tora Bodin, Eric Aubinais, Ilaria Torre, Chih-Hong Cheng·· 19 天前AI 评分36
Genesis Steering：利用训练数据提升大语言模型激活转向效果
Genesis Steering: Better Activation Steering Through Training Data
AI 导读
研究人员提出名为 Genesis Steering 的激活转向方法，通过从模型自身的微调数据中提取对比样本来构建转向向量，并在训练数据不可用时借助成员推理识别可能的数据构建代理集。在开源微调数据的 Tülu-3-8B 及对照模型 Llama-3.1-8B-Instruct 上的评测显示，来自训练混合集的安全数据转向效果优于外部数据集。
来源：arXiv cs.LG · arxiv.org