DataPraxis：通过可验证工作区演进扩展数据分析任务
研究人员提出数据分析任务合成框架 DataPraxis，通过逐步丰富并组合经验证的工作区来发掘更深层分析任务，并在演进与组装阶段持续验证结果。基于该框架构建的 DataPraxis-5K 数据集包含 5,000 条跨领域轨迹，用于训练 DataPraxis-27B 与 DataPraxis-35B-A3B。
#数据/训练
#数据/训练
今日 0 条arXiv cs.AIAI 评分4343 arXiv cs.AIAI 评分3838 Navalia：通过可验证任务合成与长程后训练推进协同 AI 智能体
研究人员提出协同 AI 智能体框架 Navalia，结合可验证任务合成与长程后训练以解决跨文档证据整合与多步数值推理难题。该框架以企业财报为数据源构建可执行计算链，并利用独立大语言模型审查与程序化检查验证证据一致性和答案正确性，进而开展冷启动 SFT 与 RL。
量子位AI 评分4646 生数科技开启Motubrain 2.0训练全流程公开直播
生数科技世界模型团队于10月21日正式开启具身模型 Motubrain 2.0 训练全流程公开直播，计划持续半个月。该模型即将开源，此次直播涵盖预训练、后训练、Agent 任务执行以及 RSI（递归自我改进）探索四个环节，向公众完整公开模型从训练、测试到能力迭代的全过程。
IEEE SpectrumAI 评分6969 维基百科编辑如何应对 AI 生成内容并坚守人工撰写
维基百科志愿项目 WikiProject AI Cleanup 正在结合自动化检测工具与人工审查，清理平台中违规的 AI 生成内容及错误引用。早期 AI 文本以明显陈词滥调为主，当前更偏向隐匿的句式结构与无法支持论点的伪造来源，检测显示新条目中 AI 内容占比已从约 20% 下降至 15% 到 16%。
SolidotAI 评分6868 Meta 被法官勒令公布授权通过 BT 下载盗版电子书的员工名单
法官 Thomas Hixson 勒令 Meta 提供下载服务器的指令历史，并列出所有参与批准通过 BitTorrent 下载盗版电子书库的人员名单。起诉 Meta 侵犯版权的出版商与作者要求查明训练数据获取决策人，Meta 辩称相关决策属于团队共识且 BT 下载是执行员工的技术决策。
科学网AI 评分6565 中国农大与百图生科等联合发布DNA大模型DeepD，实现百万碱基序列生成
中国农业大学联合百图生科等单位开发出基因组基座大模型DeepD，在单碱基分辨率下支持百万碱基上下文并实现百万碱基长度的序列生成。模型采用稀疏混合专家架构，大版本参数量约630亿且计算时仅激活十亿量级参数，完成了覆盖全基因组的5.69T碱基预训练。目前该模型已提供API访问，可用于序列生成、变异效应预测与基因组分析流程。
arXiv stat.MLAI 评分3636 《联邦学习：从理论到实践》（Federated Learning: From Theory to Practice）新书发布预印本
《联邦学习：从理论到实践》新书预印本上线 arXiv，全书共 252 pages，系统介绍如何构建保护隐私且可扩展的联邦学习系统。该书重点聚焦个性化联邦学习，通过网络带权边编码设备间的任务相似度与通信链路，并将个性化模型训练构建为广义全变差最小化（GTVMin）分布式优化问题。内容面向学生、工程师与研究人员，兼顾图学习与优化理论的数学基础与实践应用。
arXiv stat.MLAI 评分3030 权重空间学习实现可验证少样本迁移学习
研究人员提出一种基于权重空间学习的迁移学习方法，通过生成 PEFT 参数分布为少样本下游任务提供可验证的理论泛化保证。该方法利用扩散模型从上游任务学习 PEFT 参数分布，并在下游数据中通过采样与评估筛选出似然最高的参数。相比神经网络权重典型的连续假设空间，将假设限制在有限样本内能提供更紧的风险认证。
arXiv stat.MLAI 评分3434 基于锚点-正样本-负样本显式耦合的多边缘逆最优传输对比学习
研究人员提出多边缘逆最优传输对比学习方法 Neg-MMIOT-CL，通过设计三元组基础代价将多边缘最优传输全局耦合集中在锚点-正样本-负样本三元组上，有效缓解了传统方法因缺少负样本导致的维度坍塌问题。团队还证明了该方法在特定代价下可呈现神经元坍塌现象，并推出计算效率更高的替代方案 Neg-IOT-CL-PushPull。合成与真实数据集实验表明，该方法性能显著优于现有基于最优传输的对比学习方法。
arXiv stat.MLAI 评分2626 迁移学习中源数据与目标数据的综合价值研究
针对带标签目标数据的监督迁移学习，一项理论研究揭示了收敛速率的二分现象：即最优速率仅由单侧数据决定的“弱迁移”机制，以及结合源数据与目标数据互补信息以实现更快收敛的“强迁移”机制。研究提出了弱/强迁移模数来刻画两类分布关系，并设计出一种无需先验分布知识即可在各机制下保持近乎最优的通用算法。
arXiv stat.MLAI 评分3131 从熵视角看 AI 弹性、极简数据学习与最优控制
研究提出从熵优化视角量化对抗算法，以数学准则证明对抗攻击的全局最优性与唯一性，并构建出能生成最优训练数据点的自攻击学习算法。该算法仅需极少训练数据即可训练复杂系统中的最优控制，且在水动力学和生物医学的真实及合成问题中，模型复杂度大幅降低。其预测性能与复杂度表现超越了提升随机森林、深度神经网络及基于 Transformer 架构的基础模型。
arXiv stat.MLAI 评分3636 合成数据训练何时能在理论上保证有效？
研究探讨了在共享条件标签分布下，使用合成数据训练的二分类器能否成功迁移至真实数据分布。理论表明，当真实分布超出合成数据范围时，合成数据风险无法单独控制真实误差，对抗分类器在合成域误差仅 0.5% 却在真实域达到 99.25% 误差；但在 Lipschitz 条件下仍可恢复迁移误差界。
AWS Machine Learning BlogAI 评分3838 超越 KV cache：在 AWS Trainium2 上使用原生 PyTorch 训练与部署 i14 的 Laplace 3B 线性注意力模型
i14 借助 TorchNeuron Native 在 AWS Trainium2 上训练并部署了 Laplace 3B 线性注意力模型。该模型将推理循环状态固定为每序列 29.5 MB，摆脱了传统 KV cache 随上下文长度增加的限制。
Ars Technica · AIAI 评分5151 遭 AI 反弹后 Meta 从商业服务条款中删除“训练”一词
Meta 在引发 AI 相关反弹后，已从其商业服务条款中删除了“训练”（train）一词。虽然 Meta 修改了 AI 抓取政策，但并未在条款中增加遵守 robots.txt 协议的表述。
Ars Technica · AIAI 评分5252 Meta 试图将下载种子的责任推给基层员工以保护高管
Meta 在 AI 训练版权争议中辩称没有任何人“决定”通过盗版图书来训练 AI，并试图将通过种子下载盗版书籍的责任归咎于基层员工，以避免高管承担责任。
AWS Machine Learning BlogAI 评分5252 在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 的多语言推理能力
AWS 介绍了在 Amazon SageMaker HyperPod 上结合 SFT 与 GRPO 微调开源模型多语言推理能力的方法与决策框架。测试显示 SFT 将 GPT-OSS-20B 的目标语言思维链比例从 22% 提升至 100%，随后的 GRPO 在此基础上将最终回答语言准确率从 62% 进一步提升至 70%。
科学网AI 评分2424 2026全球数商大会即将在上海开幕
2026全球数商大会定于10月30日至31日在上海举办，主题为“数智共生 链接世界”，期间将集中举办30余场活动。大会现场将发布多个行业高质量数据集并推动数据集开源社区共建，展示数据支撑OPC生态建设等成果。中国气象局还将在会上发布地球系统数据国际交换上海节点，并深化与世界数据组织（WDO）等机构的合作。
量子位AI 评分3333 通研院孵化团队通衍灵智瞄准 RSI，探索自进化 Personal AI
通研院孵化团队通衍灵智聚焦递归自进化个性化智能（Personal AI），通过共享基础模型与轻量化 Personal LoRA 沉淀专属能力。其引入 Evaluator 筛选反馈与回滚机制构建 RSI 持续学习框架，并采用 TIP 训推并行和 Paged LoRA 显存管理降低运行成本。
arXiv cs.AIAI 评分3737 LongForge：通过证据-断言推理图评估与改进长上下文指令数据
研究人员提出长上下文指令数据处理框架 LongForge，将样本反向重构成证据-断言推理图，从广度、深度、正确性和完整性四个维度进行可追溯的质量评估与生成控制。评估 7 个主流数据集发现，数据广度几乎不随文档长度增长且深度普遍偏低。在两个骨干模型上，其生成的 LongForge-1 和 LongForge-N 在 6 个长上下文基准上平均超越最强基线 2.2-4.7 分。
arXiv cs.AIAI 评分4444 重新审视大语言推理模型安全对齐中的 GRPO
研究人员针对大语言推理模型在 GRPO 安全对齐中出现的优势崩塌与不安全多样化问题，提出了对齐框架 Beacon。该框架通过安全信号恢复（SSR）重构有效学习信号，并利用安全与效用解耦对齐（SUDA）缓解过度拒答。在 4 个 Qwen3 与 DeepSeek-R1-Distill 变体及 8 个基准测试中，该方法将平均安全错误率最多降低了 32.83 个百分点。
arXiv cs.AIAI 评分3333 蒸馏直至发散：面向智能体强化学习的错误截断后见蒸馏方法
研究提出面向智能体强化学习的错误截断后见蒸馏方法，通过轨迹结果与错误边界路由两类互补的后见技能，解决长程交互中后见监督与状态不匹配的问题。该方法利用正面技能强化成功决策，利用负面技能针对关键错误提供修正，错误发生后的后缀部分则完全由 GRPO 优化。实验表明该方法具备竞争力的任务表现，并支持有效的细粒度信用分配。
arXiv cs.AIAI 评分3333 科研构思的起点：基于前向引文监督生成可执行的文献局限性
研究人员提出了基于前向引文监督生成文献局限性的三阶段后训练流程，包括监督微调、验证器过滤的拒绝采样微调以及在线密集奖励强化学习。该研究构建了包含 18,279 个经人工验证三元组的数据集 ActLim-Bench，并在前沿模型评测中取得了最高的召回率得分。人工对比评估显示，所生成的局限性在 64.9% 的非平局比较中更受青睐，相关数据与代码将在发表后开源。
arXiv cs.AIAI 评分3535 DiffusionRVGE：基于回归价值梯度估计的扩散模型强化学习方法
研究者提出扩散模型强化学习方法 DiffusionRVGE，通过对中心化奖励与最终去噪图像进行回归来构建更新方向，无需奖励导数或沿采样轨迹的反向传播。
arXiv cs.AIAI 评分3636 ToPA：用于高表达力且高效微调的分块托普利茨适配方法
研究人员提出基于分块托普利茨（Toeplitz）矩阵的参数高效微调（PEFT）方法 ToPA，在不引入显式低秩或稀疏约束的前提下实现紧凑参数化。该方法通过分块结构提升因子容量并缩短乘法链长度，不仅稳定了梯度训练，理论上还能以更短链长逼近任意矩阵。在涵盖 5 种模型架构的 21 个 NLP 和 CV 数据集评测中，ToPA 的有效性均得到验证。
arXiv cs.AIAI 评分4949 压缩在先，内容在后：奖励模型中的突发性未对齐现象研究
研究发现对奖励模型在单一领域（医疗或金融）进行有害偏好微调后，未对齐现象会泛化至 7 个保留领域，且奖励模型比大语言模型更易发生偏好反转。在微调 Skywork-Reward-V2-Llama-3.1-8B 和 Skywork-Reward-V2-Qwen3-8B 时，模型在 RewardBench 2 评测中仅损失 4.8 和 5.3 分。
arXiv stat.MLAI 评分3434 高维稀疏更新下随机动量的动力学分析
一项理论研究分析了稀疏更新下随机动量的动力学行为，推导了稀疏输入最小二乘与罕见类别逻辑回归两个模型的高维极限闭式二阶矩动态。其相结构由动量保留与学习两个时间尺度的比值决定：学习远慢于保留时趋近 SGD，学习更快时系统不稳定，二者吻合时则恢复经典重球动力学。不同 token 稀疏度会导致振荡动量值不同，从而在不同 token 频率间引发全局动量的谱冲突。
arXiv stat.MLAI 评分2727 基于对抗随机森林的缺失值插补方法 MissARF
研究人员提出基于对抗随机森林（ARF）的生成式缺失值插补方法 MissARF，可同时支持单重与多重插补。该方法利用 ARF 进行密度估计和数据合成，以非缺失值为条件从估计的条件分布中采样填补缺失值。实验表明，MissARF 在插补质量和运行速度上与现有 SOTA 方法相当，且进行多重插补无需额外开销。
arXiv stat.MLAI 评分2828 无穷方差梯度下非线性 SGD 的精确尾部法则
针对具有无穷方差梯度噪声的非线性常步长 SGD，最新研究通过精确一阶尾部概率刻画了最后一次迭代的精度。在正则变化指数 $t\in(1,2)$ 的设定下，主测度通过局部 Hessian 流传递单次大梯度冲击，并在固定 batch size $b$ 时引入 $b^{1-t}$ 因子。该结论给出了显式的投影与超额目标尾部及极端分位数，并在 1 到 100 维的模拟中验证了校准度与 batch 效应。
arXiv stat.MLAI 评分4040 随机机器学习实验的等效性检验与运行次数设计
针对机器学习训练中仅凭两三次运行无法严谨证明方法等效的问题，研究人员提出了一套用于验证 AUROC 等指标实际等效性的检验方案与功效理论。该方案基于区分运行间分散度与样本级噪声的两层方差模型，采用双单侧检验（TOST）及两层 Bootstrap，并给出将等效裕度与目标功效转换为每种方法所需运行次数的闭式公式。
arXiv stat.MLAI 评分3434 岭回归中通过迁移学习实现极小化极大最优缩放定律
研究人员针对高维岭回归迁移学习机制展开分析，证明微调模型可在特定机制下使缩放定律达到极小化极大最优指数。研究建立了模型与协方差偏移下的风险确定性等价形式，发现该机制下的最优源正则化仅依赖源数据，且通过单遍随机梯度下降微调同样能达到该最优速率。理论分析已在合成环境和语言模型实验中得到验证。
arXiv stat.MLAI 评分3232 广延宽度神经网络的介观学习动力学
一项新研究针对网络宽度与输入维度成比例增长的两层神经网络，提出了基于重叠分布的介观学习动力学分析框架。在训练初期，高斯统计描述将动力学简化为追踪目标函数线性和二次分量的少数集体变量，随后通过过滤梯度波动的二次屏蔽机制加速单个特征的特化。该工作阐明了激活函数对特化模式的影响，揭示了网络从集体学习向个体特征发现转变的物理机制。
arXiv stat.MLAI 评分3333 在线主动学习的最优样本选择策略研究
研究者在高维高斯设计的高维线性分类场景下，探讨了最小化标注预算泛化误差与累积成本的最优样本查询策略。研究证明贪心短视策略对应随时间缩小的中间间隔策略，并据此设计出简单查询策略，在合成数据和真实医学图像数据集上进行了对比验证。研究还分析了两层神经网络中的短视策略，指出了朴素间隔策略失效的场景。
arXiv cs.LGAI 评分3535 通过学习隐式多表表征迈向先验数据拟合关系模型
研究人员通过在大量合成关系数据库上预训练基于图的关系基座模型 Griffin，探索了先验数据拟合网络（PFN）在消息传递架构上的泛化能力。模型将预训练编码器的隐式表征直接传递给冻结的上下文预测器，无需在下游任务上进行微调。在 16 个真实关系分类任务的评估中，先模式引导后模式无关的纯合成课程学习取得了最强的冻结上下文预测表现。
arXiv cs.LGAI 评分3434 GR-OPD：面向同策略蒸馏的组内相对序列信用分配机制
研究者提出 GR-OPD（Group-Relative On-Policy Distillation），将 token 级教师反馈聚合为校准后的序列级信用，以解耦反馈计算与信用分配。
arXiv cs.LGAI 评分4343 循环大语言模型设计研究（第一部分）：拓扑结构、输入注入与循环状态
研究人员系统解构了循环大语言模型中的拓扑结构、输入注入和循环状态设计，证实 Huginn 架构在 730M 参数及 336B token 规模下全面优于 Ouro。
arXiv cs.LGAI 评分3434 “Deep lifts”研究发现：神经网络在最笨的优化器下依然能够泛化
研究表明在宽度为 W、深度为 D 的 ReLU 网络插值解空间中均匀随机抽取参数，模型仍能以 $\tilde O\left(\frac{wdWD}{n}\right)$ 的速率自适应泛化，而非受限于大网络的全 VC 维。
arXiv cs.LGAI 评分2626 非线性可分数据下的极小 ReLU 分类器：稳定边缘及以上的收敛性与隐式偏差
研究者提出一种在 1D 非线性可分数据上通过逻辑斯蒂损失训练的双神经元 ReLU 极小网络模型，用以分析大步长梯度下降（GD）在稳定边缘（EoS）及以上的动力学。
arXiv cs.LGAI 评分3434 基于邻域标签分布的图数据标签噪声鲁棒算法 LENS
研究人员提出端到端框架 LENS，通过度量移除特定节点时的邻域熵减小量来识别图数据中的噪声节点。该方法引入重标记机制以恢复并保留特征信息，避免直接丢弃噪声节点。实验表明，LENS 在取得 SOTA 节点分类准确率的同时，计算开销极低，运行速度比现有抗噪方法快一个数量级。
arXiv cs.LGAI 评分2828 TALLOP：时间受限联邦学习中本地训练与通信压缩的联合优化
研究人员提出了面向时间受限联邦学习的联合优化框架 TALLOP，用于在每轮时间预算下权衡本地训练负载与通信压缩。该方案通过 LENS 利用早期小批量损失轨迹预测训练损失，并通过 CLEN 压缩误差模型评估压缩退化，从而选择让压缩后损失最小的分配方案。在异构联邦学习环境下的实验表明，TALLOP 相比仅优化本地训练或两者均不优化的方法，能取得有竞争力或更优的目标精度耗时。
arXiv cs.LGAI 评分3535 差分隐私优化中的超参数迁移：DP-μP 框架提出
研究者提出了 DP-μP 框架，将最大更新参数化（μP）拓展至差分隐私（DP）训练场景。该框架通过分析梯度裁剪、噪声注入与特征学习的相互作用，导出基于信噪比（SNR）的逐层学习率缩放条件，并为 DP-SGD、DP-Adam 和 DP-Muon 优化器制定了具体的缩放规则。实验表明，DP-μP 在 MLP、ViT 和 GPT-2 等架构上实现了跨模型宽度的学习率零样本迁移，大幅降低计算成本。