共振序列模型引入输入相关读取相位机制

研究者为 ResonatorLM 等共振序列模型提出输入相关读取相位机制，仅在读取端引入当前 token 依赖，在保持精确卷积计算的同时仅增加 0.2% 参数。在 WikiText-2 数据集的 6M 参数字符级模型测试中，该方法解决了超出训练长度时的失效问题：在 256 tokens 训练并外推至 1024 tokens 测试时，困惑度从 12.81 降至 3.76。