TRIAGE：面向原生 NVFP4 强化学习的方向感知偏差稳定方法
研究团队提出 TRIAGE 方法，解决大语言模型原生 NVFP4 强化学习中采样与学习执行不匹配导致的优化不稳定问题。该方法在保留两端 NVFP4 W4A4 前向执行的同时，通过片段级诊断重平衡策略梯度更新并修复严重偏差。在 Qwen3-4B 和 Qwen3-30B-A3B 上的实验表明，其在 5 个数学推理基准上达到全精度表现，rollout 吞吐量较 BF16 最高提升 2.3x。
#数据/训练
#数据/训练
今日 0 条arXiv cs.LGAI 评分3636 arXiv cs.LGAI 评分3535 DART-ES：面向进化策略大语言模型微调的难度感知重加权与针对性回放
DART-ES 通过动态感知问题难度进行重加权与样本回放，实现了无需反向传播的大语言模型全参数进化策略微调。在 GSM8K 上，它将平均准确率提升至 73.53%，超越 GRPO 的 73.26%，并成功扩展至 14B 模型。相比 GRPO，其单步运行时间减少 15.2%–50.2%，单 GPU 峰值显存降低 21.1%–51.1%，显存与耗时均低于 GRPO+LoRA。
arXiv cs.LGAI 评分3535 面向制造业的事件驱动机器学习流水线编排：AWS 实践经验
面向汽车制造的事件驱动机器学习架构实现了自动化 GPU 训练编排，在 40000+ 生产任务中较常驻 GPU 降低 72-78% 成本。系统结合 Amazon ECS、EC2 GPU 容量提供程序与准入控制 Lambda 调度器，协调物理预测和强化学习控制策略的重训。离散事件模拟显示无准入控制会丢失 65% 的任务，相关模拟器与 Terraform 模块骨架已开源。
arXiv cs.LGAI 评分3737 外部引导何时助力大语言模型推理？GA-GRPO 的偏差-方差理论
研究提出 GA-GRPO 理论框架，从偏差-方差角度量化外部引导在大语言模型推理中的影响，并推导出闭式最优引导权重。该框架将 GRPO、LUFFY、ExPO 等统摄为特例，证明其收敛速率为 O(1/sqrt(T))。在 Qwen2.5-Math-7B-Base 上的 9 项基准测试显示，GA-GRPO 表现持平或超越 TAPO 等方法，同时节省 31% 的 GPU 时长。
arXiv stat.MLAI 评分3434 分层推理奖励的强化学习：基于 Transformer 的极小化极大最优速率
新研究证明基于 Transformer 的 actor-critic 强化学习算法在分层推理奖励下，能在查询预算与正则化强度上达到极小化极大最优速率。该算法交替进行 KL 正则化策略采样、Transformer critic 拟合及策略更新，并在固定 prompt 数量下实现极小化极大最优。对比显示离线采样会使 regret 衰减受限于对数速率，这从理论上量化了 on-policy 探索的优势。
arXiv stat.MLAI 评分2828 对称感知特征学习：多指标模型的多项式分离
一项理论研究确立了对称感知与无对称特征学习之间存在多项式级别的样本复杂度分离。在球面在线 SGD 训练下，全群数据增强与权重共享卷积网络样本效率相当，对于信息指数 $p\ge3$ 仅需 $\widetilde{\Theta}(d^{p-1})$ 样本即可实现弱方向恢复，而无对称学习则需要 $\widetilde{\Theta}(rd^{p-1})$ 样本。
arXiv stat.MLAI 评分3434 超越边际监控：面向大规模电商数据概念漂移的分布式联合分布检验
研究人员在 1.375 亿行电商特征表等基准上评估发现，基于 Apache Spark 的随机傅里叶特征分布式最大均值差异方法能稳健检测概念漂移。该方法在强漂移场景下与预期漂移幅度的皮尔逊相关性达 r = 0.940，真阳性率为 80.4%，假阳性率为 3.2%。相比之下，逐维度 Kolmogorov-Smirnov 检验因非对称采样下 ID 类列的统计饱和而失效。
arXiv stat.MLAI 评分3333 学习 GFlowNet 混合模型
研究提出了描述 GFlowNet 混合模型的通用理论框架，划分为连续索引（CI）与离散索引（DI）集合。CI GFlowNets 能增强图结构任务的表达力并通过谱平移降低不稳定性。基于 DI 提出的分层条件 GFlowNets（SC GFlowNets）支持易并行训练，在不增加显著额外计算的情况下大幅提升收敛速度与模态覆盖率。
arXiv stat.MLAI 评分3535 Muon 是否需要细粒度谱整形？
新研究提出 BulkBoost 双频带谱重加权框架，证明优化器 Muon 无需复杂的细粒度谱映射，仅靠单一增益提升主体模态权重即可优化训练。在覆盖 Pythia-14M 至 410M 的 30 个持续预训练设置中，相比 Muon 的基线更新，该两频带变体将最终损失降低了 0.073%–0.147%，优于细粒度方法 Freon 的 0.022%。
arXiv stat.MLAI 评分3131 多任务主动学习的高效资源分配框架 ALCATRAs
研究提出多任务主动学习框架 ALCATRAs，用于在标注阶段可获取高成本辅助变量但部署预测时变量缺失的场景下，在预算约束内优化数据采集并提升预测性能。该框架由策略性挑选高性价比任务的任务选择策略，以及跨任务迁移知识的代理学习流程组成。理论分析与 UCI 心脏病数据集实验表明，ALCATRAs 相比基线方法显著提升了样本效率。
arXiv stat.MLAI 评分2424 平均场 Langevin 动力学中统计特征学习的几何结构
研究提出了一种用于监督回归中统计特征学习的几何表述，通过底-纤维分解定义特征学习，并在球面平均场 Langevin 动力学中证明了该性质。在多指标高斯模型中，其低温平稳分布在温度 $\lambda\asymp 1$ 处发生突变并形成多尖峰结构，能以高概率恢复隐藏参数。在单指标模型中，诱导特征空间对齐了回归信号，在对数因子下达到 $d/N$ 与 $Md/N$ 的收敛速率。
arXiv stat.MLAI 评分3737 一张卫星图像包含多少独立样本？空间相关数据的泛化界
研究证明对于空间相关范围为 r 个像素的 n×n 卫星图像，机器学习分类器的有效样本量为 Θ(n²/r²) 而非 n²，并推导出紧确的有限样本泛化界。该结论为空间交叉验证提供了理论支持，指出随机留出法会将置信区间宽度低估达 r 倍；相关理论已在合成数据及 Landsat 8、Sentinel-2、Sentinel-1 卫星图像上完成验证。
arXiv stat.MLAI 评分2929 随机梯度下降上升算法在非凸-PL 极小极大博弈中具有次优性
一项新研究针对非凸-PL（NC-PL）极小极大博弈，首次确立了固定时间尺度比且步长非增的双时间尺度 SGDA 的紧致复杂度，证实其具有次优性。
arXiv stat.MLAI 评分3636 自然梯度下降有多低效？从精确最优到 \Theta(\sqrt{\log d}) 发散
一项研究量化了自然梯度下降（NGD）对比 Fisher-Rao 最短路径的低效比率 R，证明在每步 Fisher 弦长预算下，NGD 渐近所需步数至少为后者的 R 倍。理论与实验表明，二次势函数或一维分布下 R=1 达到精确最优，而尺度族乘积中 R 会随参数维度 d 以 \Theta(\sqrt{\log d}) 发散，并在高维测试中达到 R \approx 1.5。
arXiv stat.MLAI 评分2727 面向变量测量误差的数据融合
针对目标研究仅含单次易错测量的问题，研究提出面向变量测量误差的数据融合估计器 Fuse-EIV，通过条件可迁移性假设利用外部重复测量数据进行辨识。该方法结合条件反卷积、干扰参数估计与正交修正，建立了统一谱理论并推导出目标特定的收敛界。模拟实验显示 Fuse-EIV 的主要暴露相关系数偏差较小，并已成功应用于国家健康与营养调查数据。
Apple ML ResearchAI 评分3333 RISED：基于评价准则的智能体多环境数据选择与自蒸馏
研究人员提出多环境智能体训练框架 RISED，利用行为评价准则（rubrics）指导在线数据选择与策略监督。该方法通过大语言模型标注跨环境行为画像，以正向准则为自蒸馏提供 token 级监督，并以负向准则引导生成规避重复失败。测试显示，RISED 在不同骨干模型上均取得最高跨环境平均 pass rate，并在各独立环境中排名前两位。
arXiv quant-phAI 评分2727 降低量子核模型训练成本
新研究提出通过样本降采样与 Nyström 低秩近似降低非变分量子核模型的训练成本。在 ZZ-QSVR 实验中，结合 500 样本与 5 标志点近似将核评估计算量从约 8.0 million 降至 2,485 次（降幅超 3,200 倍），AP 仅从 0.812 微降至 0.737。按 IonQ 最低定价基准估算，该方案可将训练成本从约 $1.34 billion 降至 $417,480。
arXiv stat.MLAI 评分3333 基于采样的生成模型的决策感知训练
研究人员提出面向基于采样生成模型的决策感知训练方法，将 energy score 目标与可微决策损失结合，直接惩罚依据模型预测行动产生的成本。该方法通过可微优化层计算损失，使梯度集中在成本敏感区域。在合成任务、风电调度及防霜冻任务的测试表明，该模型在保留完整概率预测的同时，更好地对齐了决策者的成本结构。
arXiv stat.MLAI 评分2929 空中计算联邦学习（AirFL）在多天线基站衰落信道下的差分隐私研究
研究人员针对多天线基站多址衰落信道下的空中计算联邦学习（AirFL），证明了无需注入人工噪声即可直接利用固有信道噪声获得用户级差分隐私（DP）。该研究推导了通用模型参数有界假设下的收敛 DP 界，以及通用平滑非凸损失函数下的收敛界。通过联合优化接收波束赋形与功率分配，该方案刻画了最优收敛与隐私权衡，并揭示了无需牺牲训练性能即可实现 DP 的明确条件。
arXiv stat.MLAI 评分3434 基于 CVaR 惩罚 Wasserstein 梯度流微调极端事件生成模型
研究人员提出 CVaR-GPA 算法，通过 CVaR 惩罚的 Wasserstein 梯度流，无需访问模型内部架构即可将生成模型微调至重尾极端事件分布。该算法仅依赖标量尾部统计量即可在欠采样的尾部区域激活速度场。在覆盖 GAN 与扩散模型等 7 种预训练模型的测试中，CVaR-GPA 将全局与尾部误差几何平均分别降低 14.0x 和 9.8x。
arXiv stat.MLAI 评分4444 Planning to Learn：连接交叉熵与精确策略梯度的 Horizon Loss
研究针对策略梯度在分类任务中表现短视的问题提出 Horizon Loss，通过单行代码修改让模型在训练接近尾声时从交叉熵平滑过渡到精确策略梯度。在 MNIST 以及基于 ResNet-50、ResNet-101 和 ViT-S/16 的 ImageNet 实验中，该损失函数在恒定学习率下均提升了 Top-1 准确率，且增益随标签噪声增加而扩大。
arXiv stat.MLAI 评分2929 欠完备线性自编码器中的尺度对称性破缺
有限步长随机梯度下降（SGD）会打破欠完备线性自编码器的尺度对称性，并在 PCA 解流形上促使解码器权重发生定向增大的尺度漂移。该漂移具备可解析的动力学描述且受限于有限步长稳定性边界，导致最终解在损失 Hessian 最大特征值上比平衡基线更陡峭。这阐明了损失几何如何将残差梯度噪声转化为沿功能等价解流形的定向运动。
arXiv stat.MLAI 评分4545 深度表格生成模型在多小样本下不再优于简单基线？一项预注册基准评测
一项涵盖 2,220 次运行的预注册评测显示，在 200 至 20,000 行样本量下，深度表格生成模型在 23/24 的组合中均未超越简单基线。在对比 CTGAN、TVAE、TabDDPM 等 7 种生成器时，最佳简单基线赢下 49 个单元中的 40 个，81% 单元的前两名差距甚至小于种子噪声。此外，原生小型临床数据集与降采样数据集的算法排名仅中度一致。
arXiv stat.MLAI 评分3838 Muon 能更好学习事实：理解谱正交化的作用
Muon 优化器通过谱正交化显著改善事实回忆，将线性 Transformer 中主体与关系的特征学习时间比从梯度流的 $\widetilde{\Theta}(\sqrt{S/R})$ 降至 $\widetilde{\Theta}(1)$。
arXiv stat.MLAI 评分2727 隐私迁移学习的高维渐近分析与数据集选择
研究提出一种基于多源异构高维回归与加权岭回归估计器的数据集选择框架，用于隐私迁移学习。该方法仅依赖公开汇总统计量，可在 $\rho$-零集中差分隐私保证下推导出测试误差的确定性等价表达式，刻画样本量、模型偏移与隐私噪声的相互作用。该理论支持优化权重与正则化超参数，无需访问原始数据即可判定外部私有数据集的有效性。
arXiv stat.MLAI 评分3535 学习风格却遗忘语义：分类任务中 SFT 与 RFT 的案例研究
一项针对分类任务的研究揭示，监督微调（SFT）比强化微调（RFT）更易引发遗忘，核心原因在于学习非均匀风格教师时会产生离轴风格漂移。理论分解与模拟表明，即便教师示范在语义上完全正确，SFT 在有限训练区间内的遗忘仍存在严格正下界，而精确策略梯度的 RFT 能保持风格对称性并维持零语义错误。
arXiv cs.AIAI 评分3535 FSPO：面向受限 LLM 强化学习后训练的策略一致风险与帕累托可行控制
FSPO 是一种面向受限 LLM 强化学习后训练的反馈状态控制器，可联合解决策略风险失真、校准偏差与多资源延续可行性问题。在匹配的 GRPO 资源预算下，FSPO 取得 66.11% 保留集与 59.43% OOD 准确率，超越强基线 PB2 的 64.47% 与 57.03%。该方法将假可行接纳率从 0.197 降至 0，并将轨迹失败率由 0.181 降至 0.083。
arXiv cs.AIAI 评分4444 通过 Recursive Self-Rewrite 扩展复杂任务轨迹
研究团队提出 Recursive Self-Rewrite（RSR）框架，基于 Qwen-3.8-27B 将多样环境下的复杂任务求解经验重构为通用训练轨迹。该方法通过规划器、审核器与执行器，将 2,001 条源轨迹扩展为 11,094 条重写轨迹用于 SFT 微调。
arXiv cs.AIAI 评分3636 MetaRubric：面向基于量规强化学习的奖励学习机制
MetaRubric 针对量规强化学习的“空洞奖励”（Vacuous Credit）缺陷，交替执行证据感知策略优化与响应引导的量规自适应。该方法通过反事实提示词确保仅凭充分证据赋分，并在阶段边界动态更新准则与权重。在多个骨干模型上，它相比静态裁判 GRPO 将 PubMedQA 准确率提升 6.00 至 20.40 个百分点，并在 HealthBench-Hard 等医学基准上取得增益。
arXiv cs.AIAI 评分4141 PAPER2LLM++：基于研究论文实现大语言模型持续自我进化
研究人员提出 PAPER2LLM++ 框架，将学术文献作为持续的证据与监督流，使大语言模型能基于最新研究成果实现自我进化。该框架从论文中提取缺陷证据并测试当前模型，利用 try-evaluate-commit 流程仅在不损害通用能力与历史改进时应用更新。实验表明，模型可循序整合针对自身缺陷的改进并保留先前成果。
arXiv cs.AIAI 评分3535 通过分段策略内蒸馏学习推理修正：Seg-OPD
研究人员提出分段策略内知识蒸馏方法 Seg-OPD，旨在通过重构中间推理片段训练大语言模型学会修正推理。该方法基于不确定性指标选取学生模型生成的片段并获取教师重写版本，训练模型偏好优质重写并保留密集 token 级监督。在数学推理与竞赛编程测试中，Seg-OPD 推理准确率相比基线取得平均 5.22% 的相对提升，相关代码已开源。
arXiv cs.AIAI 评分3838 将教师 Token 用在关键处：基于成功参考的在策略蒸馏 SR-OPD
研究人员提出成功参考在策略蒸馏（SR-OPD），利用学生模型自身的成功采样作为参考来筛选失败样本，大幅降低教师监督的计算开销。在 3 个教师-学生模型对和 6 个数学推理基准测试中，SR-OPD 在单轮设置下仅使用 Vanilla OPD 3.46%-5.02% 的教师输入 token，同时保持了相当的推理性能。消融实验进一步证实了聚焦成败并存样本及以成功引导失败筛选的有效性。
arXiv cs.AIAI 评分4343 当终端 AI 智能体训练停滞：揭秘数据生成与验证挑战
针对使用 Claude Opus 生成终端任务进行 RL 训练的流程，研究诊断出基准无效、测试框架脆弱和奖励不对齐三类失效模式。提示词重构与上下文扩展将基线可解性提升 5.6 倍，但 9B 模型在 20 步内便饱和于 81.3% 的平均 pass@2。未改变配置下引入高难任务后，平均 pass@2 降至 20.6%，证实任务可解性区间具有模型特异性。
arXiv cs.LGAI 评分3636 奖励膨胀：强化学习训练的良性激励机制
研究提出在训练过程中逐步缩放奖励的 Reward Inflation 机制，通过为强化学习引入隐式近因加权来加快策略更新与适应速度。该方法还能在策略饱和时持续提供梯度信号，有效抑制休眠神经元的产生并维持网络可塑性。在 ALE 游戏和 MuJoCo 任务上的实验证实了其增益效果，且动态调节膨胀幅度的自适应变体 Fed 表现更优。
arXiv cs.LGAI 评分3535 学习潜在结构：一种以特征为中心的图数据增强方法
研究人员提出以特征为中心的图数据增强框架 SelfAug，直接在嵌入向量空间中操作以绕过显式结构建模。该方法通过自监督反向掩码过程捕获潜在关联来恢复未观测结构信号，并引入消息正则化器与自举策略增强鲁棒性。在 10 个跨领域图数据集的评测中，SelfAug 在归纳和冷启动设置下的准确率与效率均超越现有 SOTA 方法。
arXiv cs.LGAI 评分3434 多保真策略梯度稳定数据稀缺强化学习
研究人员提出 MFPG-PPO 算法，通过结合低保真数据构建控制变量，降低方差并解决数据稀缺下的强化学习不稳定问题。在模拟机器人运动任务中，MFPG-PPO 在最难任务下性能匹配使用 16x 高保真数据训练的 PPO。在物理 Franka 机械臂实验中，该算法无需人类演示，每次更新仅需 4 个真实机器人 episode 即可稳定学习。
arXiv cs.LGAI 评分3535 ACES：基于自适应覆盖与聚焦采样的高效神经场学习
研究人员提出结构化采样框架 ACES，通过解耦全域覆盖与重要性加权来提升隐式神经表示的训练效率。该方法构建自适应空间分区以降低梯度方差并减少局部冗余，同时采用区域级加权优先采样高信息量区域。科学场学习任务实验表明，ACES 相比均匀采样和逐点自适应基线收敛更快且误差更低，在具有高局部复杂度的场景中提升最为明显。
arXiv cs.LGAI 评分3232 美国建筑电表数据 AI 需求预测的验证数据接入管道：设计、受控评估与负结果修正
研究提出一种用于建筑用电 AI 需求预测的数据接入管道，可在模型训练前检测并修复电表数据缺陷，保护 24 小时提前预测。在公开 Building Data Genome 2 数据集测试中，0.10% 的训练缺陷使梯度提升预测器误差上升 86%，修复后 MASE 从 1.415 降至 0.729 并追平清洁数据基线，同时保留 93% 的训练目标。
arXiv cs.LGAI 评分3333 Latent-MOPD：隐空间多教师在线策略知识蒸馏
Latent-MOPD 是首个面向大语言模型的表征级多教师在线策略蒸馏方法，无需额外训练即可同时融合专家的预测分布与内部隐状态。该方法通过共享投影对齐隐层维度并按领域分组更新，使监督逐步从隐状态过渡到 token 预测。在涵盖数学、代码和逻辑的全部 9 项基准中，该方案均超越单一通道基线，同参数量学生模型在多数基准上胜过最佳单项教师。
arXiv cs.LGAI 评分3434 词典序多目标在线策略蒸馏（LMOPD）
研究提出词典序多目标在线策略蒸馏（LMOPD），通过显式优先级路由与局部投影整合多专家策略，防止简洁性等次要目标损害模型正确率。在 30B-A3B MoE 模型的 3 个数学基准评测中，双专家设置下 LMOPD 完全保留了准确率与推理质量增益并取得 46.9% 的简洁性提升；四专家设置下保留约 90% 的核心能力增益，显著优于基线的约 57%。