面向实时 iOS 应用 UI 导航的规划-定位智能体在线密集强化学习
研究人员提出一种在实时 iOS 应用上训练 UI 导航智能体的在线强化学习框架，将智能体解耦为规划智能体与 UI 定位模型。系统结合 LLM-as-a-Judge 密集奖励与 GiGPPO 算法，调度数百台并发虚拟 iOS 设备训练。
#数据/训练
#数据/训练
今日 0 条Apple ML ResearchAI 评分5050 arXiv cs.LGAI 评分3434 从表征到读出：大语言模型成员信号机制分析
该研究对大语言模型（LLM）中的训练数据成员信号展开机制分析，提出 DUG 指标以分别量化内部表征与读出暴露的成员信息。实验发现，SFT 下成员特异性效应同时体现在内部表征解码与读出中，RL 下则主要显现在读出端，且被定位至模型中间层。此外，在 RLVR 场景中，模型行为改变可以在基于似然的成员推理信号未增加时出现。
arXiv cs.LGAI 评分3333 通过残差结构认证重新训练遗憾
新方法利用原始行残差结构，在区间值表格的所有连续补全上为固定岭预测器的重新训练遗憾提供了一致误差界。在 4 项真实任务中，该方法将 20 个秩 3 实例认证至 $10^{-5}$ 宽度，联合残差优化在 76.21 秒内完成了掩码认证。针对定点预测器契约，优化方法在 91.68 秒内成功认证了全部 15 个停止决策。
arXiv cs.LGAI 评分3434 Corroborative Learning：通过任务响应重构实现模型相互增强
研究者提出 Corroborative Learning（CL），通过协作者表示重构响应增量，在保留模型互补差异的同时实现相互增强，且无需直接进行输出或特征匹配，亦不增加推理依赖。在线性重构与固定协作者表示下，其损失等价于半正定方向正则化项。在 6 个语言任务、24 个模型及 36 个模型对的测试中，CL 在所有任务上均优于同容量独立适配，并展现出跨视觉与少标签场景的适用性。
arXiv cs.LGAI 评分2929 超越样本稀缺：长尾识别中编码器自适应何时值得进行
研究提出一套受控评估框架，解耦长尾识别中的样本支持量与表征分配，用于评估分类器重平衡后继续微调编码器的增量价值。实验发现样本稀缺性本身不足以衡量表征自适应的价值，只有表征分配变得更加不平衡时，编码器自适应才会带来实质收益。该现象在 ImageNet 规模及预设的 1 个百分点运行裕度下均成立，且能保持常见类准确率。
arXiv cs.LGAI 评分3333 面向模态缺失多模态联邦学习的角色感知服务端优化 RASO
针对模态缺失下的多模态联邦学习（MFL），研究人员提出角色感知服务端优化（RASO），协调贡献客户端选择与特定角色的服务端更新。该方法依据预测依赖性及本地优化参与情况筛选贡献客户端，保留编码器动量，并将共享预测模块同步至当前聚合。跨数据集和融合架构的实验验证了 RASO 在模态缺失场景下的有效性。
arXiv cs.LGAI 评分2929 线性近似类的通用频率原则
研究证明在梯度下降训练下，有限线性近似类的高频学习器相对目标振幅在整个训练过程中一致趋于零，确立了通用频率原则。该工作给出了低频优先的充分条件，涵盖单频目标独立训练以及同轮训练的双频分量。结果表明低频并不总是收敛更快，但在满足条件的常见情况下高频分量学习耗时更长，相关结论已通过勒让德与三角基底数值实验验证。
arXiv cs.LGAI 评分3535 TalentRL：用于分层技能路由的策略引导强化学习框架
TalentRL 提出了面向程序性记忆的分层技能路由强化学习框架，通过粗粒度策略引导细粒度技能检索与执行。在 7 个问答基准上，该方法使 Qwen2.5-7B、Qwen3-8B 和 Llama-3.1-8B 的强化学习表现较 SFT 提升 7.58% 至 9.32%，均获最高平均成功率。
arXiv cs.LGAI 评分5050 论文揭示 bf16 舍入导致强化学习策略更新丢失并提出 Fair Cast 修复方案
最新论文指出，语言模型在强化学习后训练中采用 bf16 就近舍入会导致绝大部分单步参数更新被丢弃，在 Qwen3-1.7B 上导致数据生成策略滞后优化器 50-150 步。针对此训练与推理不匹配问题，作者提出了名为 Fair Cast 的单行代码无偏舍入方案，在 Qwen3-0.6B 至 4B 模型测试中实现平均 6.1 分的性能提升，且无需引入额外超参数。
arXiv cs.LGAI 评分2626 未标记数据池何时能够替代隶属度查询？
研究证明当角分布对超平面测度为零且对开方向集具有正测度时，未标记数据池仅需 $O(n\log^3n\log(n/(\eps\delta)))$ 标签复杂度即可在半空间学习中替代隶属度查询。
arXiv cs.LGAI 评分4545 Steering Vectors 作为 LLM 后训练的训练信号
新研究提出将转向向量（Steering Vectors）引入 LLM 后训练，用于在监督微调（SFT）、知识蒸馏与强化学习（RLVR）中指导参数更新。在监督设定中，从思考模式教师模型蒸馏时注入该向量可带来最高 12% 的性能提升；在 GRPO 强化学习中，它可作为优势修复机制从全错样本中恢复有效学习信号。该方法代码已开源。
arXiv cs.LGAI 评分3838 LLM 强化学习中训练与推理不匹配的起源与演化
针对 LLM 强化学习中引擎数值差异与异步采样导致的训练推理不匹配，研究提出了差异-滞后校正（DLC）。DLC 通过中心化数值差异、裁剪滞后比率，并在有效样本量降至一半以下时重新同步采样器。在 Qwen3-0.6B 与 Qwen3-1.7B 上，该方法有效防止训练崩溃，使 KL 散度维持在两次独立在线策略训练差异的两倍以内。
arXiv cs.LGAI 评分3535 不落下任何通道：通过残差门理解 Diffusion 训练加速
新研究发现 Diffusion Transformer 的训练加速主要源于 AdaLN-Zero 残差门控路径的重组，而非仅依赖辅助目标的特征约束。研究团队引入归一化参与率（nPR），证实更宽的门控通道参与度直接对应更好的生成质量。基于此提出的无教师模型径向正则化在 ImageNet 256×256（SiT-B/2）上实现了比 dispersive loss 更优的 FID。
arXiv cs.LGAI 评分3535 FARO：基于跨块等风险贡献预算分配的函数空间自适应优化器
新研究提出函数空间自适应优化器 FARO，以参数块为单元，利用等风险贡献（ERC）原则自适应分配更新预算。在 FineWeb 训练的 GPT 风格模型上，FARO-Adaptive 取得 3.2780 nats，持平手工设计的 NorMuonAndAdam（3.2794 nats）；FARO-ERC 在 6 个种子下平均进一步降低 0.0136 nats 损失且不增加额外显存与耗时，代码已开源。
arXiv cs.LGAI 评分3434 物理基础模型 Walrus-1.3B 如何在仿真到真实适应中发生遗忘
研究针对连续介质动力学科学基础模型 Walrus-1.3B 的两阶段仿真到真实适应展开，揭示了微调过程中严重的灾难性遗忘现象。在圆柱绕流仿真微调仅 20 个 epoch 后，模型在原预训练数据集上的单步误差最高增加达 35x，后续适应真实实验数据则进一步加剧性能下滑。在真实数据微调中仅重放 1% 的仿真数据，即可恢复大部分丢失的仿真性能并保留对实验动态的适应。
arXiv cs.LGAI 评分2525 基于局部内在维度的无监督特征选择方法 LIDFS
研究团队提出无监督特征选择方法 LIDFS，基于局部内在维度（LID）评估特征辨别力并降低局部冗余，无需任何标签或类别数量信息，时间复杂度为 $\mathcal{O}(d^2 n)$。在 23 个高维基准数据集上的评测显示，LIDFS 在分类评估中排名第一，在聚类评估中位列第一或并列第二，且运行速度快于同梯队竞争方法。
arXiv quant-phAI 评分3232 从搜索中蒸馏知识：面向量子 LDPC 码的解码器模型工厂
研究人员提出面向量子 LDPC 码的消息传递解码器 GraphMP，无需微调即可跨码族、码尺寸和噪声模型迁移。GraphMP 结合局部消息传递与 beam search 逐步优化候选错误模式，并通过“解码器模型工厂”范式将搜索轨迹转化为数据进行知识蒸馏迭代。该设计构建了快速解码与慢速学习相结合的双循环量子-经典架构，可随量子硬件演进持续适配。
arXiv stat.MLAI 评分4040 宽度与深度缩放下 $\mu$P 的谱条件
针对宽度与深度联合缩放，该研究提出了 $\mu$P 的统一谱框架，明确了残差网络权重及每步更新范数的缩放规律。该框架揭示了残差块变换数从 k=1 到 k≥2 的结构转变，并推导出适配多种优化器的通用参数化方案。在 GPT-2 风格语言模型上的实验证实，CompleteP 风格（k≥2）参数化成功实现了稳定的特征学习与鲁棒的超参数迁移。
arXiv stat.MLAI 评分1616 插值学习系统泛化能力的函数空间稳定性边界
该论文已被作者 Ronald Katende 撤回，原因是 Theorem 5.2 未能从引用的良性过拟合设定中建立定量相邻数据集不稳定性，导致所谓的必要性方向与稳定性边界缺乏完整证明。论文原计划通过将训练建模为函数空间轨迹并提出稳定性证书，以界定算法稳定性解释插值学习系统泛化表现的适用范围。
arXiv stat.MLAI 评分3131 双 ReLU 神经元上的梯度下降：全局地形与分岔动力学
一项针对双神经元 ReLU 教师-学生模型的研究揭示，梯度流的特征学习动力学由主导信号的平分线方向与负责专门化的分裂方向主导。理论分析证明，该模型总体平方损失中非零权重的临界点仅存在全局极小值与鞍点。从小初始化训练时，学生神经元会先向平分线鞍点塌缩，随后逃逸并专门化对齐教师神经元，呈现出多阶段对称性破缺。
arXiv stat.MLAI 评分3636 Muon-RT：通过复用教师轨迹实现大语言模型自蒸馏的无动量 Muon
研究者提出 Muon-RT，通过复用 EMA 教师与学生的位移消除隐藏权重的动量缓冲区，大幅降低大语言模型自蒸馏显存。在 Qwen2.5-7B-Instruct 微调中，Muon-RT 相比 AdamW 和带动量的 Muon 准确率分别提升 2.6 和 5.4 分，持久显存减少 42% 与 27%。
arXiv stat.MLAI 评分3737 何时、何处、多少比特？带随机舍入 SGD 的缩放定律
一项新研究推导了带随机舍入（SR）的 SGD 预测误差匹配上下界，揭示了模型大小、训练时间与精度协同变化的算力缩放定律。理论表明仅前向特征舍入可保持精确计算的算力缩放，而反向舍入会改变该规律；参数平均则能改变何时以及何处需要更高精度。在固定算力预算下，低精度支持更大模型能提升预测表现，相关权衡在 MLP 和小型 Transformer 实验中得到验证。
arXiv stat.MLAI 评分3030 CABA：基于留出锚点的持续自适应可验证行为保留
研究提出 CABA 门控机制，通过在冻结表征上比较新旧策略并约束最差锚点的前向 KL 散度，在无需动作标签或完整轨迹的情况下验证并保留受保护行为。在受控 UCI 人类活动识别实验中，在预算 epsilon = 0.05 下，CABA 将平均遗忘率从无约束自适应的 1.01% 降至 0.00%，最终平均准确率从 93.04% 变为 88.48%。
arXiv stat.MLAI 评分3535 RW-DPO：面向鲁棒偏好学习的可靠性加权直接偏好优化
针对偏好数据中的反转与平局噪声，研究提出 RW-DPO 方法，为样本引入可靠性权重并通过极小极大凹惩罚与策略联合优化。该方法仅对模型产生矛盾的样本进行闭式权重更新，计算开销相比 DPO 几乎可忽略。在包含 10%–30% 标签反转的大语言模型微调中，其胜率不随反转率上升而下降，且超过了在干净标签上训练的 DPO。
arXiv stat.MLAI 评分3434 面向 Flow Matching 无展开后训练的粗粒化最优传输
研究团队提出 ReCouple 框架，通过构建粗粒化最优传输（OT）耦合，实现 Flow Matching 模型无需模拟展开（rollout-free）的后训练。该框架进一步拓展出逼近半离散 OT 的 ReCouple+，以及加入空间正则化的 ReCouple++。实验表明，该方法有效优化了低函数评估次数（NFE）下的生成质量与速度场。
arXiv stat.MLAI 评分3636 面向受污染样本的设计即鲁棒分布学习
研究人员提出受污染校正最大平均差异（CC-MMD），结合带噪代理分数与少量审计样本残差校正，直接从受污染数据中恢复针对干净目标分布的理想 MMD。该方法无需代理分数校准或污染物结构假设，具备有限总体设计无偏性与一致性。实验表明，CC-MMD 能改善受污染回归的参数恢复，并支持生成模型在严重受污染数据上恢复纯净分布。
arXiv cs.AIAI 评分3434 A-RSI：面向零数据多模态自我改进的自适应任务刷新
A-RSI 提出了一种面向零数据多模态自我改进的自适应任务刷新方法，通过监控训练日志中的奖励变化与准确率，在学习信号下降时更新任务池。该方法利用静态程序库生成多模态问题并导出可独立核验的答案，全流程无需外部训练数据或人工标注。在包含 11 个基准的主测试集上，A-RSI 仅凭 800 个新任务将平均成绩从 57.77 提升至 61.05。
arXiv cs.AIAI 评分3434 通过能力感知协同演化策略与 Rubric 实现开放式生成
研究人员提出 CoCA 闭环框架，通过准则级能力诊断协同自适应演化评估标准（Rubric）与策略模型，解决大语言模型开放式生成中强化学习奖励区分度不足的问题。该框架对比无引导与标准引导的采样来校准难度失配的准则，并通过引导优化或 on-policy 自蒸馏转化能力收益。多项基准测试表明，CoCA 性能持续优于传统基于 Rubric 的强化学习方法，并能有效减轻能力退化。
arXiv cs.AIAI 评分3030 PT$^3$：面向可泛化毫米波人体点云表征的原型引导自监督预训练框架
研究提出毫米波人体点云自监督预训练框架 PT$^3$，以解决雷达稀疏检测与多径效应带来的表征不稳定问题。PT$^3$ 将空间局部状态表示为共享原型的稀疏组合，通过自回归预测学习时间演化，并引入观测一致性抵御雷达扰动。经多源无标注序列预训练后，单个冻结编码器可直接支持动作分类、稠密点生成、关节姿态估计与未来动作预测，性能超越现有预训练基线。
arXiv cs.AIAI 评分3939 从宽容到怀疑：开源后训练配方如何改变 LLM 事实核查的信任偏见
研究发现开源 Tülu-3 后训练配方会诱发 LLM 事实核查中的职业偏见，使 OLMo-2 32B 和 Tülu-3 70B 对低地位职业发帖人更倾向判定为假，效应虽小于 1 个百分点但统计学显著。该判断反转由残差流中的单一方位承载，且发生在监督微调阶段。Meta、Alibaba、Mistral 的训练配方及 7 款商用部署模型均未出现此类偏见。
arXiv cs.AIAI 评分3030 面向多智能体 AI 系统的治理感知联邦学习（GAFL）：可信协同 AI 的策略驱动框架
研究提出面向多智能体系统的治理感知联邦学习框架 GAFL，在模型聚合前独立验证治理证据，实现策略驱动的可信协同训练。在 10 个参与方的 Adult Income 评测中，完整 GAFL 识别出 100% 伪造证据的参与方，macro-F1 达 0.7520 至 0.7733。
arXiv cs.AIAI 评分3434 SCOPE：面向智能体强化学习的选择性关键步骤同策略自蒸馏
研究人员提出智能体强化学习框架 SCOPE，通过分析自身轨迹生成后验技能，并仅在选定错误步骤进行关键步骤同策略自蒸馏。在 Qwen2.5-3B 下，SCOPE 在 ALFWorld 和 WebShop 成功率达 97.7% 与 85.2%，未见任务比 GRPO 提高 23.2 个百分点且减少 46.7% 交互；扩展至 Qwen3-32B 时未见任务成功率达 94.0%。
arXiv cs.AIAI 评分4141 Rubricon：面向 LLM 评测与训练的自动化评分规则生成与优化
研究人员提出 Rubricon 流水线，无需人工标注即可通过任意 LLM 自动化生成并优化用于评测与训练的高区分度评分规则。在 5 个涵盖专业、消费、临床和通用的 LLM 基准上，其打分与专家人工规则的对齐度比 RRD 等现有方法高出 9%。在 HealthBench 上，使用其规则后训练 Qwen3.5-9B 模型，性能比最强基线 RRD 提升 4.5%。
arXiv cs.AIAI 评分5252 研究提出基于 LLMON 的大语言模型后训练方法以防御提示注入
研究团队提出基于 LLMON 框架的大语言模型后训练方法，通过显式分离可执行指令与被动数据来解决提示注入漏洞。该方法构建了包含 4.6B tokens 的结构化语料，涵盖通用、RAG 与工具调用数据，在 Granite-4.1 3B 和 8B 基础模型上完成 SFT 与强化学习后训练。
arXiv cs.AIAI 评分3535 LRMoE：面向显存受限节点的高效 MoE 训练需求端负载重校准
LRMoE 是一种显存感知的 MoE 训练系统，通过在前向规划保留配额并在反向传播时重校准负载需求，解决显存受限节点的计算与通信瓶颈。系统通过容量感知路由与物理压缩减小通信载荷，有效降低反向通信、计算量和缓冲区显存开销。
OpenAI NewsAI 评分3535 OpenAI：合理使用使所有人受益
OpenAI 分享了创作者、学者、无障碍倡导者以及法律专家等提交的法庭辩护状摘要，阐明合理使用原则如何支持 AI 训练与创新。
OpenAI News精选AI 评分6161 OpenAI 宣布将遵循通用 robots.txt 信号以表达网站 AI 训练偏好
OpenAI 宣布将遵循通用的 robots.txt 信号，以协助网站运营者向所有参与该机制的服务商统一传达 AI 训练偏好。
推荐理由：网站运营者可借此了解通用的网页控制规范，评估如何更便捷地统一管理各服务商的训练数据采集。
arXiv cs.LGAI 评分4444 Multi-Token Prediction 的正确实现方式
研究人员针对多 Token 预测（MTP）训练中的梯度干扰缺陷，提出了无额外参数开销的 Soft-MTP。该方法利用梯度恢复技巧仅反向传播有益的 KL 自蒸馏信号，无缝兼容 DeepSeek 与 Meta 架构。在 167M 至 1.2B 参数规模下，Soft-MTP 带来了更低的困惑度和更快的投机解码，并在 1.2B 微调后提升了数学与代码推理能力。
arXiv cs.LGAI 评分4545 量化在语言模型预训练损失激增中的作用
大语言模型预训练后期的致命损失激增（time-bomb spikes）由 LM head 中快速增长的量化误差引发，降低数值精度会加速该不稳定现象。在 LM head 上将 AdamW 优化器替换为带动量的 SGD，可有效抑制 logit 增长，进而通过减少有限精度误差显著提升长周期预训练的稳定性。
arXiv cs.LGAI 评分4747 ParaTTT：实现深层记忆测试时训练（TTT）层的并行化
研究人员提出 ParaTTT（PTTT）算法，通过迭代优化内循环梯度轨迹，实现了任意深度非线性记忆测试时训练（TTT）层的并行化。在 4K context 下经过两次迭代，其内循环轨迹评估速度比 TTT-MLP 快 32x，340M 模型整体训练提速 4.9x。在 340M 和 1.3B 规模下，其模型表现匹配或超越 Gated DeltaNet 及 Mamba-2，且召回能力更优。