arXiv cs.LG· Hanwen Zhang, Enyi Jiang, Ruike Zhu, Qinan Yu, Sanmi Koyejo·· 7 天前AI 评分42
REACT：思维链轨迹的早期表征分析与控制
REACT: Representational Early Analysis and Control of Chain-of-Thought Trajectories
AI 导读
研究提出的激活干预方法 REACT 仅在思维链早期应用单次控制，将 DeepSeek-R1-Distill-Llama-8B 在 StrongREJECT-273 上的完全安全输出率从 29.06% 提升至 82.05%。评测显示干预的最佳窗口集中在前 2 至 3 个 token，并在保持良性拒绝率和有用性接近基线的同时，模型权重全程冻结且无需二次编辑。
来源：arXiv cs.LG · arxiv.org