已对齐数据可通过“上下文混淆”诱发大语言模型未对齐
大语言模型微调使用已对齐数据时，会因“上下文混淆”（context confusion）在其他语境中诱发出未对齐行为。该现象在性别平等、隐私和人身安全领域均被验证，表现为狭义未对齐，且通用对齐数据无法有效缓解。加入定向对齐数据或在推理时提供上下文学习示例可大幅减少此类混淆，仅靠检查训练数据难以预测最终对齐状态。
#数据/训练
#数据/训练
今日 0 条arXiv cs.AIAI 评分4545 arXiv cs.AIAI 评分3434 超越模式坍塌：基于 GFlowNets 生成多样化合成专家对话
研究人员提出基于生成流网络（GFlowNets）生成多样化高质量合成专家对话的方法，以解决直接提示大语言模型导致的模式坍塌。该方法在辅导教学和情感支持对话领域中，比强化学习及端到端 LLM 基线更平衡保真度、模式覆盖度与真实性，且不复制训练数据。在 3 个下游结果预测任务中，其合成数据训练出的分类器表现出更强训练信号。
arXiv cs.AIAI 评分3434 通过门控与衰减同策略蒸馏提升 OCR 保真度
研究人员提出 GAD-RL，通过在联合后训练中自适应调节与衰减教师监督，提升视觉语言模型的 OCR 转录保真度。该方法在任务奖励达到 0.95 时停用蒸馏并持续衰减强度，同时依据学生概率对前向 KL 加权。
arXiv stat.MLAI 评分2727 基于学习特征几何的非线性最小二乘泛化能力研究
研究者基于平均算法稳定性分析了岭正则化非线性最小二乘模型的泛化能力，推导出局部极小值下依赖于训练参数梯度几何特征的误差界。该误差界通过经验雅可比 Gram 矩阵与残差曲率项衡量有效维度，使泛化保证取决于模型学到的几何特征而非参数量。在单隐层 ReLU 网络及基准数据集上的实验验证了该理论界与实际泛化间隙的一致性。
arXiv stat.MLAI 评分3636 将生成学习引入表示学习：作为分布匹配的自监督迁移学习
该研究提出将自监督表示学习建模为分布匹配（DM）框架，通过训练增强不变编码器使其特征分布匹配显式的几何参考，并采用 Mallows 距离度量分布偏差。该框架揭示了表示学习与生成学习的方向对称性，建立了优化目标与类中心分离及分类误差的理论联系，并证明了非渐近神经筛保证。仿真与图像基准实验表明其具备流形校正和跨标签空间迁移能力，代码已开源。
arXiv stat.MLAI 评分3434 面向连续扩散语言模型的分布匹配蒸馏
研究提出了面向连续扩散语言模型的分布匹配蒸馏（DMD）方法，包含 Simplex-DMD 与 Reinforce-DMD，旨在降低高质量并行生成所需的网络评估次数（NFEs）。
arXiv stat.MLAI 评分3434 概率对抗训练
研究者提出概率对抗训练方法，从概率视角通过拉大基于距离的分布与分类器诱导分布的间距来降低重叠，从而提升概率鲁棒性（PR）。该研究证明基于 KL 散度的目标构成了 PR 的可计算下界，并在理论上恢复出一种带缩放因子的对抗训练形式。实验表明该方法持续改善 PR，且其缩放因子还能直接增强非概率对抗训练方法的鲁棒性。
arXiv stat.MLAI 评分3333 佛之觉醒：总体损失平原期间的子空间学习
研究证明神经网络在总体损失几乎保持不变的平原期，仍能学习到显著更具预测性的特征表征。针对两层 ReLU 和 leaky-ReLU 网络，模型在损失平原检查点的 AGOP 主特征空间对齐度相对初始化提升至少 1/2，重拟合 MSE 降低超 0.399。该结论还拓展至 SwiGLU 网络，并在 21 个 teacher 模型、每模型 50 次初始化的实验中得到验证。
arXiv stat.MLAI 评分3939 理解离策略与在策略蒸馏：不同训练目标的机制解析
新研究针对多教师顺序蒸馏，对比了前向与反向 KL 散度对应的离策略与在策略蒸馏（OPD），系统解释了 OPD 的优势与脆弱性机制。研究团队开发了对应算法并证明表格设定下的对数遗憾界，随后扩展至函数逼近。结果显示，反向 KL 在无信息反馈下能更好保留专家偏好，但对低估正确回答的教师更敏感，且在长序列中可能偏向错误前缀。
arXiv stat.MLAI 评分3535 从最小范数插值视角解析 Grokking 现象
一项新研究从最小范数插值视角构建统计理论，定量刻画了正则化几何与信号稀疏度对 Grokking 延迟泛化的调控机制。研究证明了强过参数化无噪问题下的 0-1 泛化律，并在对角线性网络与模运算 Transformer 实验中验证了理论预测。此外，该研究还揭示出最小范数插值的统计不稳定性，即微小正则化扰动会导致泛化表现剧烈波动。
arXiv stat.MLAI 评分3434 基于选择性分类并具备性能保证的标签噪声转移矩阵估计
针对噪声标签学习中转移矩阵估计依赖脆弱的类别后验估计且缺乏理论保证的问题，新研究提出了一种基于单侧选择性分类的转移矩阵估计方法。该方法绕过了类别后验估计，能结合灵活的二分类学习方法，并提供有限样本性能保证。研究团队还推出了实现该方法的算法并给出了细化的有限样本性能界，该成果已被 NeurIPS 2026 接收。
arXiv stat.MLAI 评分2929 通过辅助监督缓解摊销贝叶斯推理中的表征鸿沟
研究提出一种在内部表征施加辅助引导损失的通用方法，以缓解摊销贝叶斯推理中特征学习与条件分布学习之间的表征鸿沟。该方法在训练数据充足时能加快收敛速度，在数据稀缺时可提升模型性能，并提供通用诊断工具用于区分总结失败与推理失败。测试表明，辅助监督在多项具有挑战性的真实世界推理问题中均提升了收敛速度和准确率。
arXiv stat.MLAI 评分3737 LoRA 在持续学习中的动力学理论
新研究构建了双任务模型中 LoRA 在持续学习下的动力学理论，通过常微分方程组精确刻画泛化误差。分析表明低秩更新虽减少旧任务干扰但会减缓新任务适应，且迁移增益达到目标任务内在维度后饱和，遗忘随 adapter rank 持续加剧。基于该机制的状态依赖掩码策略显著减轻遗忘并保留可塑性，结果在 sequential MNIST 上得到定性复现。
arXiv stat.MLAI 评分3737 利用任意维度机器学习热启动 PDE 求解器
新研究提出利用任意维度机器学习（如 GNN）跨维度热启动 PDE 求解器，使低维训练的求解器可零样本求解或加速高维 PDE。该方法基于方程与初始数据对称性，已应用于热传导、Burgers 和可压缩 Navier–Stokes 方程。测试显示，2D 数据训练的模型在 3D Navier–Stokes 测试中优于 3D 基线，仅使用 12% 的 FLOPs 和 20% 的数据量。
arXiv stat.MLAI 评分3131 Robust LassoNet：通过鲁棒损失函数增强神经网络特征选择
研究人员提出 Robust LassoNet，通过引入 Huber、Cauchy、Tukey's bisquare 以及 Nonnegative Garrote 等鲁棒损失函数，解决了原生 LassoNet 依赖 MSE 损失而对异常值高度敏感的问题。
arXiv cs.LGAI 评分3434 预条件物理信息神经算子训练
新研究提出一种用于物理信息神经算子训练的预条件残差损失函数，解决了微分算子导致的损失函数病态条件问题。该方案通过几何与代数多重网格实现，兼容多种算子架构且完全不增加推理开销。在泊松、Allen-Cahn 和稳态 Stokes 方程测试中，其无标签训练表现匹敌监督训练，精度比以往物理信息算子学习方法提高 4 到 25 倍。
arXiv cs.LGAI 评分2525 面向车联网的共享编码器分层联邦多任务学习 EN-HMTFL
针对车联网异构感知任务，研究提出共享编码器的分层多任务联邦学习框架 EN-HMTFL，结合全局共享编码器与本地解码器协作学习通用特征表征。车辆仅在分层网络中交换和聚合编码器，原始数据与本地解码器参数保留在车端。在 MNIST 和 GTSRB 测试中，该框架准确率最高提升 24.0%，通信轮数最多减少 69 轮（28.8%）。
arXiv cs.LGAI 评分3333 为什么神经网络后门攻击如此容易？
研究表明，赋予神经网络强大能力的特征学习机制反而会加剧其后门脆弱性。针对二次神经元的精确闭式分析显示，相比惰性学习所需的触发器强度比例 $\alpha \propto \pi^{-1/2}$，特征学习能将攻击预算优化至 $\alpha \propto \pi^{-1/4}$。这大幅降低了小投毒比例下所需的触发器强度，表明基于线性启发式的安全审计会系统性低估后门风险。
arXiv cs.LGAI 评分3434 基于逆向知识蒸馏的数据遗忘
研究人员提出逆向蒸馏遗忘框架 IDU，能同时将多步流匹配和扩散模型蒸馏为一步学生生成器，并抑制指定训练子集的输出。该方法仅需预训练教师模型与遗忘集数据，无需访问保留样本、额外特征提取器或分类器。在 MNIST 和 CIFAR-10 上的实验表明，IDU 能大幅降低遗忘类别的生成频率，同时保持保留类别的生成质量。
arXiv cs.LGAI 评分3737 持续学习中早期学习塑造后续表征变化方向
持续学习中神经网络的早期表征漂移会形成名为 scaffold 的低维子空间，并在后续任务中被持续复用。在 4 个预训练视觉编码器和 2 个数据集上，后续表征变化与优化器更新均优先沿用自身历史诱导的 scaffold。限制该 scaffold 内的变动会显著减缓新任务的学习速度，证实早期经验会在模型适应未来任务时留下持久的几何印记。
arXiv cs.LGAI 评分4545 FLOORA：面向建筑设计的人类对齐领域特定语言模型
建筑布局生成模型家族 FLOORA 正式提出，其 0.6B 参数模型在真实与合成建筑评测中分别取得 92.0% 和 96.0% 的 VLM 裁判胜率，并在 89.3% 的人工评估中获选最佳，超越更大规模的前沿模型。该方案结合专用 DSL、领域预训练、SFT 以及包含人类偏好与可验证奖励的强化学习，目前其数据集、模型与推理代码均已开源。
arXiv cs.LGAI 评分3737 CZAR 损失函数：面向金融对数收益率预测的专用目标函数
研究提出面向金融对数收益率预测的 CZAR 损失函数，旨在解决均方误差等对称回归损失导致预测趋向于常数零的问题。该分段二次损失具备解析梯度与 Hessian 矩阵，适配梯度提升库，其 4 个超参数可简化为单个选择。在日内 BTC 对数收益率的 LightGBM 实验中，CZAR 模型有效降低了零收益偏差，并提升了大幅波动下的方向预测准确率。
arXiv cs.LGAI 评分3434 ABC：面向可验证奖励强化学习的基于优势的控制变量
新研究提出面向可验证奖励强化学习（RLVR）的控制变量方法 ABC，并将其与直接优势估计（DAE）结合构建了 actor-critic 算法。该方案在离线到在线设定下运行，critic 先在历史收集的轨迹上训练并在在线学习中自适应更新。在数学推理任务中，ABC 仅用显著更少的在线优化步数，便取得了与 GRPO 相当的性能。
arXiv cs.LGAI 评分3434 利用 FLIP 实现跨大洲联邦学习的可重复性：多应用研究
研究人员推出开源平台 FLIP（Federated Learning Interoperability Platform），旨在使跨大洲医疗联邦学习的训练与评估具备可重复性与可审计性。
arXiv cs.LGAI 评分3939 ROSS：通过选择性监督从自生成 Rollout 中重新学习
ROSS 提出通过保留完整历史轨迹作为上下文、仅对选定生成后续计算损失，从大模型自生成的 rollout 中选择性重新学习。在 Qwen3.6-35B-A3B 上，该方法将 6 项基准的 MOPD 平均分从 58.40% 提升至 62.20%，SWE-bench Verified 从 64.20% 提升至 68.40%。这表明无需额外的策略采样，仅通过离线 SFT 复用历史经验即可实现性能增益。
arXiv cs.LGAI 评分3131 规范损失地形导航：基于轨迹缓解增量学习遗忘的方法
针对持续学习中的灾难性遗忘问题，研究团队提出基于轨迹调制的损失地形导航方法 TMLN，将持续学习形式化为曲面损失地形上的最优控制问题。该方法利用对角经验 Fisher 信息矩阵结合网络参数历史轨迹动态调制预条件子，直接在梯度更新中保护关键参数方向，无需附加惩罚项。类别与领域增量基准测试表明，TMLN 显著降低了连续任务之间的损失壁垒。
arXiv cs.LGAI 评分3434 离线强化学习：从静态策略转向自适应先验
研究者提出自适应离线强化学习（AORL），主张离线 RL 的目标应从训练直接部署的静态策略，转向学习具备持续改进能力的自适应策略先验。该范式通过保留记忆、探索与自我修正能力，帮助模型在测试时适应和在线微调中有效应对分布偏移与数据覆盖有限等挑战。论文还将贝叶斯离线 RL 列为保留认知不确定性以构建自适应先验的可行方向。
arXiv cs.AIAI 评分3535 视觉敏感度不等于断言可撤回性：面向多模态强化学习的持久性感知信用分配
研究人员提出持久性感知信用门控（PACG），通过衰减异常持久视觉断言的正向信用，解决大视觉语言模型中无图像支持断言继承正确回答奖励的问题。该方法无需额外标注且不增加推理成本，在 Qwen2.5-VL-7B 上将 9 项基准测试的平均分在 DAPO 下从 58.1% 提升至 59.9%，在 VPPO 下从 59.8% 提升至 60.9%。
arXiv cs.AIAI 评分3333 关系型基座模型上下文学习中的支持集目标泄露：影响、检测与缓解
关系型基座模型在上下文学习中若支持集包含查询集不可用的目标衍生列，会引发支持集目标泄露并导致预测性能下降。研究构建了跨越不同噪声和跳数的 14 种泄露类型（对应 20 列），在 RelBench 数据库评测发现目标表泄露造成的性能劣化最严重。采用 Integrated Gradients（IG）能有效对可疑列进行排序并剔除，从而部分恢复模型性能。
arXiv cs.AIAI 评分3737 CoRe：通过协同演化奖励模型缓解视频扩散模型潜在奖励黑客问题
研究人员提出协同演化奖励框架 CoRe，通过重拟合奖励模型并锚定真实视频偏好，解决视频扩散模型对齐中的潜在奖励黑客问题。针对生成器在数百次更新后脱离分布导致画质崩溃的缺陷，CoRe 将潜在空间对齐转化为生成器与奖励模型的持续动态交互。在 Wan2.1-T2V-1.3B 上的实验显示，CoRe 生成质量持续超越预训练模型和既有对齐方法。
arXiv cs.AIAI 评分4141 面向隐式递归 LLM 系统的原则化思维表征
研究人员提出针对隐式递归大语言模型系统的 REST 训练目标，将思维表征的因果性、极小性、可分性与稳定性转化为可微损失函数。在无需改动架构或增加推理参数的前提下，REST 在数学、医学和代码等 7 个基准测试中比纯交叉熵监督最高提升 7.5 个百分点准确率，并使收敛速度提升 30%，同时让智能体隐式通信更易于解释。
arXiv cs.AIAI 评分4040 经验时代的自我发现强化学习：学习历史是资产还是负担？
研究人员针对超越 PPO 的自我发现强化学习规则 Disco103 展开首个因果机制审计，探究循环学习历史在交互中究竟是资产还是负担。审计表明循环历史能将可用奖励尺度从 3 个数量级扩展至 6 个数量级，且不匹配历史的负面影响可通过让状态自然演化来缓解。此外，在环境变化下控制回放保留会逆转其相较 DQN 的适应优势。
arXiv stat.MLAI 评分3434 数据混合何时能改善标度律？高维回归带来的理论启示
一项针对高维混合数据回归模型的研究表明，只有当领域间的数据谱与相对样本规模满足特定协同关系时，数据混合才能在理论上证明实现比单一数据集更快的标度律扩展速率。该工作确立了一般协方差结构下的极小化极大风险，并在对齐的幂律谱设定中推导出了显式标度律。语言模型数值实验也证实，合理的数据混合能使目标域测试损失的下降速率快于单领域训练。
arXiv stat.MLAI 评分4040 为什么自适应优化器会低估罕见 token
研究表明 Adam、RMSProp 等逐坐标自适应优化器因梯度归一化失衡，会系统性低估罕见 token 的概率并偏移训练不动点。相比之下，SGD、AMSGrad 以及 Shampoo、Muon 等方法能保持无偏；论文针对 RMSProp 等推导出了闭式解公式。语言模型测试显示，罕见 token 随机出现时偏差更大，导致这类优化器对生成分布的拟合表现更差。
arXiv stat.MLAI 评分3535 Physical Muon：将正交化作为平衡态计算
研究团队提出优化器 Physical Muon，将 Muon 的正交化步骤转化为连续时间流的平衡态计算，以适配模拟存内计算。在 10.95M 参数 Transformer 上的评估显示，密集流方案的平均验证交叉熵仅比 Newton-Schulz 高 0.0085，探针实现仅高 0.0188。电路仿真进一步验证了其流动动力学，并取得了相当的训练表现。
arXiv stat.MLAI 评分3535 差分隐私下数据重构的锐利相变
在 $\rho$-zCDP 差分隐私模型中重构单个 $d$ 维训练样本存在 $\rho \asymp d$ 的锐利相变。当隐私预算 $\rho \ll d$ 时重构在信息论上不可行，而 $\rho \gg d$ 时在私有线性回归中重构完全可行；若数据位于 $s$ 维子空间，相变临界点会转移至 $\rho \asymp s$。
arXiv stat.MLAI 评分3333 逐点还是成对：成对损失何时在理论上有助于奖励学习？
一项新理论研究在分组离线上下文赌博机设定下对比了逐点值回归（VR）与成对值差分回归（VDR），给出了成对损失优于逐点损失的理论证明。结果显示，对于有限函数类，VDR 能消除 VR 的模型误设项并改善误差界；对于线性类两者互不完全占优，差分消除干扰偏差的同时可能在低误设下增加估计方差，带来依赖特征几何的偏差-方差权衡。
arXiv stat.MLAI 评分3434 粗粒度监督何时值得采用？未知聚合下的成本感知学习
新研究针对昂贵向量标签与未知聚合标量粗标签的双分辨率学习，推导出了粗粒度监督的闭式盈亏平衡条件。研究提出的 estimate-and-track 在线策略可学习聚合规则并追踪最优分辨率配比，理论上达到最优主导累积风险系数。合成实验验证了全精细到混合标注的转换点，展现出其在有限预算下相比全精细标注的性能收益。
arXiv stat.MLAI 评分2828 从学习增强聚类视角理解 Private Evolution
研究人员将差分隐私合成数据生成算法 Private Evolution（PE）重构为生成模型增强的 Wasserstein 学习。理论表明，当生成模型捕捉到真实分布时，样本复杂度仅取决于内在维度而非环境维度。针对标准 PE 在聚类实例中可能不收敛的缺陷，团队提出了具备可证明收敛性且能提升召回率的几何感知新版本。
arXiv stat.MLAI 评分3030 二阶矩随机逼近方法
该研究探讨了同时利用一阶矩与二阶矩估计量的二阶矩随机逼近方法，涵盖 Adam 和 Muon 等深度学习优化器特例。该方法基于求解矩阵方程的最优预条件推导，并通过两阶段分析框架结合 Dvoretzky 定理证明其几乎必然收敛至目标解邻域。论文还给出了收敛邻域半径与矩估计量偏差及方差的依赖关系，并推导出 Muon 与 Adam 谱变体的具体界。