ClawLoop：基于测试框架原生训练循环的自我改进智能体
研究人员提出 ClawLoop 框架，无需外部教师模型即可通过任务合成、SFT 或 RL 训练以及诊断反馈三阶段循环实现 AI 智能体自我改进。以千问 Qwen3.6-27B 作为循环模型，该框架在 SkillsBench、Claw-Eval-Live 和 ClawGym-Bench 上均取得持续提升。
#数据/训练
#数据/训练
今日 0 条arXiv cs.AIAI 评分4343 arXiv cs.AIAI 评分5252 论文揭示数据科学智能体中的静默失败
研究人员针对数据科学智能体展开系统评估，指出仅依赖下游预测指标和代码正确性会掩盖数据泄露与不当验证等方法论缺陷。通过跨 220 个数据科学任务的分析与测试套件验证，研究发现绝大多数智能体方案均存在至少一种失败模式，且数据泄露与高预测表现正相关。对比 Kaggle 竞赛专家方案，现有智能体在解决问题的创造力与领域知识上仍存在明显不足。
arXiv stat.MLAI 评分3535 动量何时能在可验证奖励强化学习（RLVR）中发挥作用？
研究针对可验证奖励强化学习（RLVR）中一阶动量的有效性提出理论分析，证明在避免超调的安全范围内增大指数移动平均（EMA）系数 $\beta$ 可严格加速优化。
arXiv stat.MLAI 评分3030 MAEM：用于类增量图学习的免重放、容量受控动态混合专家框架
研究人员提出用于类增量图学习的免重放动态混合专家框架 MAEM，以缓解近期学习类别主导预测的近期偏差。该框架基于 SGC 为每个新会话训练并冻结专用专家，利用掩码自编码器（MAE）的重建误差实现无任务 ID 和无共享路由器的测试节点分配。当专家池达到固定容量时，MAEM 通过 Git Re-Basin 对齐并蒸馏最少使用的专家，在 4 个图基准测试中均超越了现有持续图学习基线。
arXiv stat.MLAI 评分3333 用于策略优化的函数空间时间自蒸馏方法 FSPO
FSPO 是一种面向策略优化的单策略自蒸馏框架，通过将稀疏历史 next-token 分布存为固定时间目标，无需维护常驻教师模型即可提供稳定指导。在推理与工具调用基准中，FSPO 在 5-hour 训练预算下取得最高平均准确率，比最强基准提升约 4% 个百分点。在 Olmo3-7B-Instruct 上，其峰值显存从约 70 GB 降至 56 GB。
arXiv stat.MLAI 评分2727 随机洗牌随机梯度下降（RR-SGD）的大步长最后迭代收敛性
针对凸且 L-光滑分量的无约束有限和优化问题，该研究建立了标准随机洗牌随机梯度下降（RR-SGD）最后迭代的期望目标差距界。在常数步长满足 $0<\eta\lesssim 1/(L(1 + \log(nK)))$ 条件下，该方法通过在随机比较点保留采样偏差，成功消除了步长限制中显式的 $1/n$ 因子。结合现有小步长界，该结果在对数因子范围内匹配了对应的平均迭代收敛率。
arXiv stat.MLAI 评分2727 模型误设下受测量限制线性回归的子数据选择
研究人员提出了针对线性回归子集选择的新框架 ELOS（Expected Loss Optimal Selection），以解决因响应变量获取成本高昂且可能存在模型误设时的样本测量选择问题。该方法以预测期望损失为目标，生成仅依赖协变量信息的 A-optimality 型准则，在选择阶段无需任何响应观测值。模拟研究和真实数据应用表明，ELOS 在多种场景下均具有出色的预测表现与稳健性。
arXiv stat.MLAI 评分3030 Weighted Adjoint Matching：基于时变控制成本微调 Flow Matching 模型
研究者提出 Weighted Adjoint Matching 方法，用于在给定可微奖励的情况下微调预训练扩散模型或 Flow Matching 模型。该方法通过在控制成本上引入时变权重，在生成早期设置高成本以保留粗粒度特征的语义平衡与多样性，后期设置低成本以微调细节并提升奖励。高斯混合模型和 MNIST 实验表明，该方法在奖励与模态平衡之间取得了优于 Adjoint Matching 的权衡。
arXiv stat.MLAI 评分3333 基于文本信息的训练数据过滤方法以提升虚拟流量计性能
研究人员提出一种基于大语言模型（LLM）的文本信息数据过滤方法，通过结合非结构化运行日志与表格传感器数据来过滤训练集，提升虚拟流量计的性能。该方法先跨模态进行上下文异常检测，再生成二进制掩码过滤下游回归模型的训练数据。在合成油气数据集的实验中，多模态过滤将下游 MAPE 从纯传感器过滤的 7.1% 降至 5.4%。
arXiv stat.MLAI 评分3434 基于多重不可靠标签的噪声标签校准方法
针对医疗标注和众包场景中不可靠标注导致的校准评估偏差，研究提出仅利用含噪标注评估并重新校准二分类预测器的方法。该研究提出了带非渐近偏差界限的噪声校正期望校准误差指标 NC-ECE，并设计了基于损失和直方图的事后重新校准算法。半合成基准实验显示，NC-ECE 能紧密贴合真实标签参考值，且该重校准方法可显著改善潜在真实标签的校准表现。
arXiv stat.MLAI 评分2929 延迟复杂度维度：带延迟与截断标签的学习理论研究
研究人员提出了延迟复杂度维度（DCD），用于刻画标签存在随机延迟且在观察窗口 $W$ 外被截断时的 PAC 学习样本复杂度。所有学习器至少需要 $\Omega(\mathrm{DCD}/\varepsilon^2)$ 个样本，理论推导表明适度的观察窗口在固定收集期下表现可优于即时标签。合成数据与 Criteo 转化日志实验验证了相关预测。
arXiv quant-phAI 评分3232 基于经典影子的量子数据联邦遗忘学习 SHADE
研究人员提出了基于经典影子（classical shadow）的量子数据遗忘方案 SHADE，用于在不可重放的量子联邦学习中擦除指定量子数据。各节点仅需记录训练态的经典影子，并通过联邦牛顿校正估计并消除遗忘数据的梯度与曲率影响，网络间仅传输经典估计。在 50 个节点及边缘板卡的仿真中，SHADE 无需重放即可在 0.2 s 内完成遗忘，遗忘准确率与重新训练相比相差在 0.5 点以内。
arXiv cs.LGAI 评分4646 策略验证自训练（PVST）：从可验证策略奖励中学习 AI 智能体合规性
研究人员提出策略验证自训练（PVST），利用确定性策略验证器将智能体运行时的合规与违规动作转化为奖励信号进行偏好优化，无需人类偏好标注或更强教师模型。在 AgentDojo 基准测试中，基于 Qwen3-8B 的训练使提示词注入下的违规轨迹从 37.2% 降至 10.3 ± 0.9%，攻击成功率从 12.4% 降至 0.5%，验证器干预率从 39.2% 降至 8.8%。
arXiv cs.LGAI 评分3434 GRPO 在长程 LLM 智能体中的课程设计分析
研究人员分析了引导辅助 GRPO（Guide Assisted GRPO）在长程 LLM 智能体任务中的课程设计，探讨起始位置、交接单元和移动规则对独立任务完成率的影响。
arXiv cs.LGAI 评分3434 反事实门控支撑集分解（CGSD）：解构训练数据过滤中的样本选择与分布重排机制
研究者提出了反事实门控支撑集分解（CGSD），这是一种匹配预算的四臂实验设计，用于将训练数据过滤门控效应分解为支撑集内选择、支撑集间重排及二者的交互作用。在韩英和韩日检索任务中，支撑集内选择是唯一显著超过校准零分布带的分量（留出集分别增加 +29.7 和 +5.6 项），且在基于模型置信度阈值的门控中同样表现一致（+27.3 项）。该方法能防止将支撑集分布重排误当做样本级门控质量。
arXiv cs.LGAI 评分3434 DTDD：通过分歧触发动态蒸馏实现可靠的同策略监督
研究人员提出自适应同策略蒸馏框架 DTDD，通过分段级学生与教师分歧动态触发教师接管，以解决长链推理和多轮智能体中监督不可靠的问题。DTDD 将预热后的峰值梯度范数降低 8.6x，从基础初始化达到 21.3% 保留数学准确率所需的优化步数减少 2.6x。在 ALFWorld 基准中，其在 LoRA 和智能体代码上的性能分别提升 4.8 和 4.1 个百分点。
arXiv cs.LGAI 评分4646 基于验证器的智能体强化学习实现可证明正确的代码
研究人员提出一种基于程序验证器的智能体强化学习环境与细粒度奖励机制，通过读取验证器诊断信息计算证明责任比例并结合完整性审计，解决二元奖励与作弊问题。在 1.7B 至 14B 的 Qwen3 及 35B 的 Qwen3.6 MoE 模型上，代码生成的保留验证率在 DafnyBench 上从 66.1% 提升至 93.5%，在 SWE-Proof 上从 56.3% 升至 100%。
arXiv cs.LGAI 评分3434 面向扩散语言模型的结果路由蒸馏与强化学习
研究人员针对 MoE 架构的扩散语言模型（dLLM）提出了一种无需策略似然度的训练管线，结合验证器强化学习与结果路由蒸馏。在 24 步去噪下，蒸馏先使模型工具调用性能超过教师 6.77 个百分点，加入路由后在蒸馏检查点基础上进一步提升 18.31 个百分点。该方法还通过锚定 KL 项保护了验证器奖励之外的推理链路准确率。
arXiv cs.LGAI 评分3434 SE(3) 等变结构预测中动态 k-NN 图的精确拓扑通道调度：带阻尼置信域补偿
研究者针对 SE(3) 等变结构预测提出了双通道拓扑调度方案，通过带阻尼置信域补偿动态 k-NN 图构建，在保证精度的同时降低逐块重建开销。该方案实现三种补偿级别，其中 L2 级别可完全复现逐块重建的边集，且整个过程取得 1.5x 的 Pass-1 与 1.76x 的 epoch 加速且无明显损失差距。相关运行时与实验代码已全部开源。
arXiv cs.LGAI 评分3838 解析在线策略蒸馏（OPD）：教师模型的优势究竟体现在何处？
研究通过在师生分歧处受控替换 token，揭示了在线策略蒸馏（OPD）中教师优势的具体来源。实验表明多次重复替换可将准确率从 28.4% 提升至 74.5%（接近教师的 76.9%），且基于质量和 KL 的筛选比随机替换高 15-18 个百分点。此外，更高的 argmax 一致性并不会持续改善准确率，研究建议采用能稳定学习高价值修正的训练方案。
arXiv cs.LGAI 评分3535 图神经网络在图数据库中直接进行训练与推理的研究探索
研究人员实现了直接在图数据库内进行图神经网络（GNN）训练与推理，可直接执行采样、特征检索甚至完整的前向传播。通过 Cypher 进行实时采样和检索并结合优化方案，训练过程在保持相同准确率的同时提速约 2.5x。在真实图数据上，数据库内推理相比将图冷加载至 RAM 提速超过 10x，且无需额外内存开销。
arXiv cs.LGAI 评分4343 TRACER：针对间接提示词注入的轨迹正则化训练方法
研究人员提出感知部署通道的对抗训练方法 TRACER，通过采样展示包装器、结合证据门控奖励与推理对齐机制，防御大语言模型的间接提示词注入攻击。在 GSM8K 测试中，基于 Qwen2.5-3B-Instruct 的 TRACER 将 RAG 场景下的攻击成功率（ASR）从 65.5% 降低至 6.1%，并保持 78-82% 的干净样本准确率。
arXiv cs.LGAI 评分3434 PairIT：用于低数据量分子优化的自回归 Transformer 训练框架
研究人员提出了基于 SMILES 序列的自回归 Transformer 训练框架 PairIT，通过学习结构相似的分子对来实现带种子的分子生成与局部化学编辑。该框架支持使用 prompt tokens 指定目标属性、方向及变化幅度以实现多属性优化，并可通过强化学习后训练进一步提升表现。
arXiv cs.LGAI 评分3636 Genesis Steering：利用训练数据提升大语言模型激活转向效果
研究人员提出名为 Genesis Steering 的激活转向方法，通过从模型自身的微调数据中提取对比样本来构建转向向量，并在训练数据不可用时借助成员推理识别可能的数据构建代理集。在开源微调数据的 Tülu-3-8B 及对照模型 Llama-3.1-8B-Instruct 上的评测显示，来自训练混合集的安全数据转向效果优于外部数据集。
arXiv cs.LGAI 评分3838 强化学习新方法 CCPO：上下文信用策略优化
研究者提出上下文信用策略优化（CCPO），通过上下文相似度加权跨轨迹对齐样本，并结合历史信用与未来信用为长任务中的单步动作分配更精准奖励，无需额外的价值评估网络（value critic）。
arXiv cs.LGAI 评分3535 连续流语言模型如何反向传播验证器奖励
研究者提出了面向连续流语言模型的强化学习后训练框架，可直接反向传播验证器奖励。该框架引入能评估中间 token 嵌入价值的 critic，绕过不可微的离散解码步骤以获得方差远低于 REINFORCE 的路径梯度，并从每个 token 表示预测价值来优化策略。实验显示，该方法在 4 项推理任务上稳定提升了连续流语言模型表现，并优于同类基线。
arXiv cs.LGAI 评分3838 内部优化器如何影响大模型分布式训练中的副本扩展性
研究人员探讨了 DiLoco 等跨数据中心大语言模型训练中内部优化器对副本扩展性的影响，指出伪梯度的协方差结构以及批大小对伪梯度噪声尺度的影响是决定扩展性能的两个关键因素。基于白化的预条件处理被证明是内部优化器的关键特性。实验表明，基于白化的内部优化器在 8 到 96 个副本下均实现了强大的扩展性能，且随着参数与数据的扩展，其相较于数据并行的表现进一步提升。
arXiv cs.LGAI 评分3737 损失曲率作为扩散模型记忆特性的免采样代理指标
研究人员提出将输入损失曲率（即训练损失 Hessian 矩阵的 Frobenius 范数）作为免采样的有效代理指标，用于量化扩散模型对训练数据的记忆特性。在训练过程中追踪平均输入曲率可识别模型何时开始复现训练数据；同时结合反事实记忆定义证明，留一模型的输入曲率直接控制样本的反事实记忆程度，在损失局部特征与样本生成概率间建立了理论关联。
arXiv cs.LGAI 评分3434 大语言模型语言习得中的形态、语义与分歧演进追踪
研究人员通过开源模型 Pythia 和 OLMo 的中间检查点，系统探索了大语言模型在训练过程中的语言习得动态。实验表明，模型习得形态结构的时间远早于语义嵌入向量的稳定期。此外，训练数据集规模对分歧识别具有积极影响，而预训练期间的共现和推理期间的重复则会对分歧识别及联想链接生成产生负面作用。
arXiv cs.LGAI 评分3636 多元对齐研究提出福利感知偏好采集框架 WAPA
研究人员提出名为 WAPA 的福利感知偏好采集框架，通过优化个体监督效用的社会福利目标，在有限人类反馈预算下显式分配标注资源以实现多元对齐。实验表明，该方法在 6 个 Roleplay 集合和 4 个 OpinionQA 区域中实现了可控的资源权衡，并提升了对已知与未知个体的偏好预测能力。
arXiv cs.LGAI 评分3939 一个 Token 需要多少秩？用于一秩 LoRA 专家的底噪静噪方法 SQUELCH
研究者提出无需路由器的混合一秩专家方法 SQUELCH，通过软阈值过滤高斯底噪让每个 token 动态调整激活秩，且不增加额外可训练参数。在 LLaMA-3.1-8B、千问（Qwen3）和 DeBERTaV3 上的评测显示，SQUELCH 较传统 LoRA 提升 2.2-3.2 个点，在平均仅激活 32 个组件中 8.6 个的情况下超越最强混合基准 0.8-1.2 个点。
arXiv cs.LGAI 评分3535 扩展廉价合成数据预训练可提升室内无线电地图预测效果
研究人员通过室内布局生成器与开源近似光线追踪器构建流水线，生成 128M 合成样本来预训练 ResNet-101 与 Swin-T 编解码器模型，以解决室内路径损耗预测中真实测量数据与精确模拟器匮乏的问题。
arXiv cs.LGAI 评分3939 图像自蒸馏的数据密度扩展定律研究
研究发现图像自蒸馏模型中样本重复对下游性能的影响因数据集而异，在部分场景下对较小随机子集重复训练的表现甚至优于使用更多唯一样本。基于 Maxar、Waymo、ImageNet 等数据集的实验，研究团队提出了一种改进的 Chinchilla 风格扩展定律，明确计入唯一样本量与单样本重复次数。该框架为理解数据与算力权衡提供了支持，同时还分析了子集选择和数据增强对下游性能的影响。
arXiv cs.LGAI 评分3535 基于局部信任域优化的策略内知识蒸馏 Token 效用
研究者基于局部信任域优化直接从蒸馏目标推导 token 效用，并提出连续、均值归一化的 token 加权方法 Fisher Utility Weighting（FUW）。
arXiv cs.LGAI 评分3535 用于仅有答案数据下高效后训练与验证的逆向推理模型
研究人员提出一种基于仅有答案数据的逆向推理模型自蒸馏方法，通过条件生成思维链（CoT）轨迹实现高效后训练与验证。在 Qwen3-0.6B 的 Countdown 和 GSM8K 实验中，该方法单轮离线蒸馏使困难提示词的 pass@1 翻倍，并在多项尾部指标上超越拒绝采样自蒸馏。
arXiv quant-phAI 评分2626 用于希格斯玻色子事件分类的量子机器学习模型样本规模扩展性与表征敏感度研究
研究人员针对希格斯玻色子事件分类评估了量子支持向量机（QSVM）与变分量子分类器（VQC）的样本规模扩展性及表征敏感度。模型基于 ATLAS 挑战赛模拟数据，在 250 至 4000 个事件的平衡子集上结合 PCA 与自编码器降维进行训练，并以 4 种经典分类器为基准。结果显示较大样本下 QSVM 表现优于 VQC，但两者仍落后于表现最佳的经典分类器。
arXiv quant-phAI 评分2525 镜中罗盘：基于 Hopf Ansatz 的量子反向传播
研究提出基于 Hopf ansatz 的量子反向传播方法，利用逆向 Hopf 框架和相位校准受控反射，通过复用有限测量记录实现完整参数梯度的反向计算。对于包含 $M$ 个实值参数的完整图谱，全局方法的执行采样次数为 $\mathcal{O}(\log\log M)$，检查点方案则为 $\mathcal{O}(\log M\log\log M)$。
Apple ML ResearchAI 评分3636 利用语音基础模型中的语言选择性维度检测语码转换
研究人员提出一种轻量级方法，直接利用预训练语音编码器中的帧级语言信息检测语音中的语码转换（CS）。该方法通过单语录音识别语言选择性隐藏状态维度，并聚合其激活状态进行预测。在 CS-FLEURS 的 14 种语言对测试中，Whisper-small 编码器取得 0.798 的平均 F1 分数，优于 CNN 基线的 0.776 和 HuBERT 线性基线的 0.751。
Apple ML ResearchAI 评分4242 混合优于调参：数据受限下双语预训练优于超参数搜索
研究表明在数据受限的预训练场景中，混入高资源辅助语言数据的效果全面优于超参数调优。在 150M 至 1.43B 参数规模及约 1000 次预训练实验中，数据混合带来的下游任务准确率提升相当于 2–13 倍目标语言数据量，且差距随模型规模增大而显著拉大。研究建议优先调整双语混合比例而非进行超参数搜索，并通过 μP 迁移超参数。
Apple ML ResearchAI 评分3838 大语言模型用于机器翻译质量标注：人类与模型均面临挑战
研究评估了 LLM 在 MQM 和 ESA 两种主流机器翻译质量评估体系中的表现，发现在多数场景下人类与模型标注仍不可靠。该研究基于覆盖 70 个语言对的长上下文测试集及 WMT23、WMT25 数据，指出人类在细粒度 MQM 和低资源语言对上面临挑战，而 LLM 则难以处理微小错误、错误语言变体及错误跨度标注。未来有望通过人机协作流程改善可靠性问题。