涌现性未对齐大模型是否共享内部回路？

研究发现不同有害任务微调导致的大模型涌现性未对齐（EM）共享了关键注意力头回路。研究人员基于 Qwen2.5-3B-Instruct 训练了医疗、金融和极限运动 3 个 LoRA 微调模型，定位出所有模型前 5 个关键头中重合的 3 个注意力头。