arXiv cs.LG· Alina Sudakov, Guy Bar-Shalom, Fabrizio Frasca, Haggai Maron·· 26 天前AI 评分40
MATCHA：利用显式多对多层映射学习跨模型激活对齐
Learning Cross-Model Activation Alignments with Explicit Many-to-Many Layer Maps
AI 导读
MATCHA 是一种跨模型激活对齐方法，通过提示词联合学习显式层映射矩阵与隐藏空间特征映射。在涵盖 3 个家族、7 个模型的 42 对模型测试中，该方法大幅提升了激活重构与检索指标，并证实目标层与源层普遍呈现多对多映射。该对齐方案还支持在不同模型间直接迁移 steering vectors 和探针等激活空间干预手段。
来源：arXiv cs.LG · arxiv.org