利用 FLIP 实现跨大洲联邦学习的可重复性：多应用研究
研究人员推出开源平台 FLIP（Federated Learning Interoperability Platform），旨在使跨大洲医疗联邦学习的训练与评估具备可重复性与可审计性。
#数据/训练
#数据/训练
今日 0 条arXiv cs.LGAI 评分3434 arXiv cs.LGAI 评分3939 ROSS：通过选择性监督从自生成 Rollout 中重新学习
ROSS 提出通过保留完整历史轨迹作为上下文、仅对选定生成后续计算损失，从大模型自生成的 rollout 中选择性重新学习。在 Qwen3.6-35B-A3B 上，该方法将 6 项基准的 MOPD 平均分从 58.40% 提升至 62.20%，SWE-bench Verified 从 64.20% 提升至 68.40%。这表明无需额外的策略采样，仅通过离线 SFT 复用历史经验即可实现性能增益。
arXiv cs.LGAI 评分3131 规范损失地形导航：基于轨迹缓解增量学习遗忘的方法
针对持续学习中的灾难性遗忘问题，研究团队提出基于轨迹调制的损失地形导航方法 TMLN，将持续学习形式化为曲面损失地形上的最优控制问题。该方法利用对角经验 Fisher 信息矩阵结合网络参数历史轨迹动态调制预条件子，直接在梯度更新中保护关键参数方向，无需附加惩罚项。类别与领域增量基准测试表明，TMLN 显著降低了连续任务之间的损失壁垒。
arXiv cs.LGAI 评分3434 离线强化学习：从静态策略转向自适应先验
研究者提出自适应离线强化学习（AORL），主张离线 RL 的目标应从训练直接部署的静态策略，转向学习具备持续改进能力的自适应策略先验。该范式通过保留记忆、探索与自我修正能力，帮助模型在测试时适应和在线微调中有效应对分布偏移与数据覆盖有限等挑战。论文还将贝叶斯离线 RL 列为保留认知不确定性以构建自适应先验的可行方向。
arXiv cs.AIAI 评分3535 视觉敏感度不等于断言可撤回性：面向多模态强化学习的持久性感知信用分配
研究人员提出持久性感知信用门控（PACG），通过衰减异常持久视觉断言的正向信用，解决大视觉语言模型中无图像支持断言继承正确回答奖励的问题。该方法无需额外标注且不增加推理成本，在 Qwen2.5-VL-7B 上将 9 项基准测试的平均分在 DAPO 下从 58.1% 提升至 59.9%，在 VPPO 下从 59.8% 提升至 60.9%。
arXiv cs.AIAI 评分3333 关系型基座模型上下文学习中的支持集目标泄露：影响、检测与缓解
关系型基座模型在上下文学习中若支持集包含查询集不可用的目标衍生列，会引发支持集目标泄露并导致预测性能下降。研究构建了跨越不同噪声和跳数的 14 种泄露类型（对应 20 列），在 RelBench 数据库评测发现目标表泄露造成的性能劣化最严重。采用 Integrated Gradients（IG）能有效对可疑列进行排序并剔除，从而部分恢复模型性能。
arXiv cs.AIAI 评分3737 CoRe：通过协同演化奖励模型缓解视频扩散模型潜在奖励黑客问题
研究人员提出协同演化奖励框架 CoRe，通过重拟合奖励模型并锚定真实视频偏好，解决视频扩散模型对齐中的潜在奖励黑客问题。针对生成器在数百次更新后脱离分布导致画质崩溃的缺陷，CoRe 将潜在空间对齐转化为生成器与奖励模型的持续动态交互。在 Wan2.1-T2V-1.3B 上的实验显示，CoRe 生成质量持续超越预训练模型和既有对齐方法。
arXiv cs.AIAI 评分4141 面向隐式递归 LLM 系统的原则化思维表征
研究人员提出针对隐式递归大语言模型系统的 REST 训练目标，将思维表征的因果性、极小性、可分性与稳定性转化为可微损失函数。在无需改动架构或增加推理参数的前提下，REST 在数学、医学和代码等 7 个基准测试中比纯交叉熵监督最高提升 7.5 个百分点准确率，并使收敛速度提升 30%，同时让智能体隐式通信更易于解释。
arXiv cs.AIAI 评分4040 经验时代的自我发现强化学习：学习历史是资产还是负担？
研究人员针对超越 PPO 的自我发现强化学习规则 Disco103 展开首个因果机制审计，探究循环学习历史在交互中究竟是资产还是负担。审计表明循环历史能将可用奖励尺度从 3 个数量级扩展至 6 个数量级，且不匹配历史的负面影响可通过让状态自然演化来缓解。此外，在环境变化下控制回放保留会逆转其相较 DQN 的适应优势。
arXiv stat.MLAI 评分3434 数据混合何时能改善标度律？高维回归带来的理论启示
一项针对高维混合数据回归模型的研究表明，只有当领域间的数据谱与相对样本规模满足特定协同关系时，数据混合才能在理论上证明实现比单一数据集更快的标度律扩展速率。该工作确立了一般协方差结构下的极小化极大风险，并在对齐的幂律谱设定中推导出了显式标度律。语言模型数值实验也证实，合理的数据混合能使目标域测试损失的下降速率快于单领域训练。
arXiv stat.MLAI 评分4040 为什么自适应优化器会低估罕见 token
研究表明 Adam、RMSProp 等逐坐标自适应优化器因梯度归一化失衡，会系统性低估罕见 token 的概率并偏移训练不动点。相比之下，SGD、AMSGrad 以及 Shampoo、Muon 等方法能保持无偏；论文针对 RMSProp 等推导出了闭式解公式。语言模型测试显示，罕见 token 随机出现时偏差更大，导致这类优化器对生成分布的拟合表现更差。
arXiv stat.MLAI 评分3535 Physical Muon：将正交化作为平衡态计算
研究团队提出优化器 Physical Muon，将 Muon 的正交化步骤转化为连续时间流的平衡态计算，以适配模拟存内计算。在 10.95M 参数 Transformer 上的评估显示，密集流方案的平均验证交叉熵仅比 Newton-Schulz 高 0.0085，探针实现仅高 0.0188。电路仿真进一步验证了其流动动力学，并取得了相当的训练表现。
arXiv stat.MLAI 评分3535 差分隐私下数据重构的锐利相变
在 $\rho$-zCDP 差分隐私模型中重构单个 $d$ 维训练样本存在 $\rho \asymp d$ 的锐利相变。当隐私预算 $\rho \ll d$ 时重构在信息论上不可行，而 $\rho \gg d$ 时在私有线性回归中重构完全可行；若数据位于 $s$ 维子空间，相变临界点会转移至 $\rho \asymp s$。
arXiv stat.MLAI 评分3333 逐点还是成对：成对损失何时在理论上有助于奖励学习？
一项新理论研究在分组离线上下文赌博机设定下对比了逐点值回归（VR）与成对值差分回归（VDR），给出了成对损失优于逐点损失的理论证明。结果显示，对于有限函数类，VDR 能消除 VR 的模型误设项并改善误差界；对于线性类两者互不完全占优，差分消除干扰偏差的同时可能在低误设下增加估计方差，带来依赖特征几何的偏差-方差权衡。
arXiv stat.MLAI 评分3434 粗粒度监督何时值得采用？未知聚合下的成本感知学习
新研究针对昂贵向量标签与未知聚合标量粗标签的双分辨率学习，推导出了粗粒度监督的闭式盈亏平衡条件。研究提出的 estimate-and-track 在线策略可学习聚合规则并追踪最优分辨率配比，理论上达到最优主导累积风险系数。合成实验验证了全精细到混合标注的转换点，展现出其在有限预算下相比全精细标注的性能收益。
arXiv stat.MLAI 评分2828 从学习增强聚类视角理解 Private Evolution
研究人员将差分隐私合成数据生成算法 Private Evolution（PE）重构为生成模型增强的 Wasserstein 学习。理论表明，当生成模型捕捉到真实分布时，样本复杂度仅取决于内在维度而非环境维度。针对标准 PE 在聚类实例中可能不收敛的缺陷，团队提出了具备可证明收敛性且能提升召回率的几何感知新版本。
arXiv stat.MLAI 评分3030 二阶矩随机逼近方法
该研究探讨了同时利用一阶矩与二阶矩估计量的二阶矩随机逼近方法，涵盖 Adam 和 Muon 等深度学习优化器特例。该方法基于求解矩阵方程的最优预条件推导，并通过两阶段分析框架结合 Dvoretzky 定理证明其几乎必然收敛至目标解邻域。论文还给出了收敛邻域半径与矩估计量偏差及方差的依赖关系，并推导出 Muon 与 Adam 谱变体的具体界。
arXiv stat.MLAI 评分3434 幂律谱下的随机优化：紧确界与洗牌分析
研究人员将幂律谱条件理论推广至高维机器学习中的随机梯度下降（SGD），证明相同的谱指数支配着随机优化动力学。针对各向同性高斯数据，研究通过推导精确常数证明 Single Shuffle 洗牌策略严格优于 Flip-Flop 与 IID 采样。该成果打通了抽象谱理论与实际随机训练选择之间的鸿沟，揭示了数据几何对优化速度的驱动机制。
arXiv stat.MLAI 评分3737 表征学习能否与损失最小化解耦？极化更新给出答案
矩阵 Muon 的极化归一化更新表明表征学习可与损失最小化解耦：在接近稳定性边缘时，即便全批次训练损失停滞或进入周期振荡，特征仍会持续与教师子空间对齐。在全部 33 种激活函数配置中，学生模型的平均梯度外积（AGOP）在损失平台期均持续有效对齐，且该现象在深度残差网络中亦能复现。
TechCrunch · AI精选AI 评分7676 Reddit 将停用 RSS 订阅并于 2027 年关闭公开 API 访问
Reddit 宣布将于 11 月 13 日终止支持 RSS 订阅，并计划于 2027 年 3 月关闭公开 API 访问，称此举旨在防范针对平台内容的大规模爬虫抓取与自动化滥用。
推荐理由：Reddit 收紧免费开放接口以保障自身数据许可收益，展现了内容平台在 AI 抓取冲击下调整开放策略的实际走向。
Ars Technica · AI精选AI 评分8181 OpenAI 因一系列智能体对齐失控事件暂停前沿模型训练
OpenAI 因发生一系列智能体对齐失控事件暂停了前沿模型训练。美国政府网站属于 OpenAI 近期通报的数十个第三方机构之一。
arXiv cs.AIAI 评分3333 Token 边界的代价：压缩证书与预测
研究量化了预分词边界对文本压缩的代价，证实切分边界使英语维基百科的最优 token 数量增加 28.3%–36.8%。BPE 高出无约束下界 10.9%，且在 85M 非嵌入参数模型中，无约束压缩会导致 12 种语言的预测位率上升。为此提出的边界许可机制仅放开 10% 词表预算，即可在英文和中文语料中分别恢复 85.2% 与 100.0% 的 token 缩减收益。
arXiv cs.LGAI 评分3333 基于行列尺度场的 Transformer 权重介观视角分析
该研究提出通过行列尺度场在介观层面分析 Transformer 权重，利用通道的中位数居中 log-RMS 概况结合全局尺度与平衡核心精确表征矩阵。在 4 种尺寸的 Pythia 检查点及 3 种初始化测试中，平衡后核心幅值概况高度相似，Query/Key 概况与 RoPE 频率对齐，且展平相对通道增益会导致分布内损失上升。
arXiv cs.AIAI 评分4444 有效的 LLM 微调必须依赖人类可读文本吗？
新研究提出连续合成输入嵌入向量优化方法 DASA，直接利用冻结参考模型的激活梯度反馈微调大语言模型，证明有效微调无需依赖人类可读文本。在 Llama 和 Qwen 系列 1B 至 32B 参数的 6 款模型测试中，DASA 在 LoRA 设置下性能媲美并多次超越源自然语言数据，多数对比优于 GRADMM。此外，DASA 相比 GRADMM 实现了 3.6-4.9x 提速，且峰值 GPU 显存相当。
arXiv cs.LGAI 评分2727 NASA C-MAPSS 上的 LSTM 故障检测器无服务器 Gossip 训练：与联邦、本地及集中式学习的对比研究
针对 NASA C-MAPSS 涡轮风扇基准上的堆叠 LSTM 故障检测，同步环形 Gossip 训练在无需中央服务器的情况下，于 FD001 取得 89.6 ± 1.3% 的终端窗口 F1 分数，性能比肩 FedAvg（89.9 ± 1.1%）。在 FD002-FD004 上该方法较本地训练将 F1 提升 13 至 28 个百分点，在数据异构性适中时是切实可行的无服务器替代方案。
arXiv cs.LGAI 评分3636 LLM 裁判二值化评判会压平分数空间
LLM 裁判若将奖励压缩为通过/未通过（{0, 1}）会压平分数空间，导致模型策略在不改变判定结果的前提下产生尺度仿射拉伸漏洞。在 MATH 与 SciBench 测试中，14 种尺度拉伸在二值化下完全隐形，而采用三档评分（{0, 0.5, 1}）在 n=1,024 时能以至少 96.5% 的功效检出异常并消除该歧义。
arXiv cs.LGAI 评分3939 GapFT：从 Pass@K 与 Pass@1 的差距中学习
研究者提出 GapFT 微调方法，利用单次采样失败但在 K 次采样内成功的样本训练大语言模型，将搜索能力内化至单次解码。在 LogiQA 2.0 和 ReClor 上，Llama-3.1-8B 的 Pass@1 较原模型分别提升 14.4 和 13.9 分，仅用三分之一数据即追平全量验证微调并达到 Pass@4 精度。该增益在 Qwen2.5-7B 上同样得到验证。
Apple ML ResearchAI 评分5353 Apple 提出持续学习智能体训练与评估底座 SCLATE
Apple 研究团队提出持续学习智能体训练与评估底座 SCLATE，支持将基准测试与未经修改的智能体接入统一的开放事件调度器中。框架采用混合模拟时钟在智能体工作时实时推进并跳过空闲间隙，将长达一个月的交互场景压缩至数小时，同时通过容器内代理完整记录所有调用的 token 与对数概率。
OpenAI NewsAI 评分4646 OpenAI 探索前沿 AI 训练安全案例
OpenAI 提出针对前沿 AI 训练安全案例（safety cases）的早期指南。该指南内容主要涵盖技术安全防护措施、运营实践，以及对模型对齐失效（misalignment）事件的调查规范。
Apple ML ResearchAI 评分2727 联邦变分不等式取得更快收敛速率
Apple 与佐治亚理工学院研究人员针对求解随机变分不等式（VI）的联邦优化问题，建立了一系列更快的收敛速率保证。研究指出经典 Local Extra SGD 算法在精细分析下具备更紧理论界，但存在导致过度客户端漂移的局限。为此团队提出新算法 LIPPAX，有效缓解客户端漂移，在多种设定及复合变分不等式中均实现更优收敛保证。
AWS Machine Learning BlogAI 评分3939 在 Amazon EKS 上借助 EFA 和 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
AWS 提出结合 Amazon EKS、EFA 与 DeepEP 的架构方案，针对 MoE 模型的 RLHF 和 GRPO 大规模强化学习后训练进行优化，实现训练吞吐量提升 40%。该方案解决了 Rollout 推理生成与策略训练之间的异构资源协同难题，并利用 DeepEP 优化专家并行（EP）在 EFA 上的跨节点动态 all-to-all 通信瓶颈。
AWS Machine Learning BlogAI 评分4343 在 Amazon SageMaker HyperPod 上借助 SkyRL 加速多模态强化学习训练
基于 Amazon SageMaker HyperPod 运行开源强化学习框架 SkyRL，可通过 GRPO 算法将 Qwen3-VL-8B 视觉语言模型的迷宫求解率从 43.75% 提升至 95% 以上。
Apple ML ResearchAI 评分3434 半监督联邦 ASR 实用方案：在线伪标签与服务端更新稳定化
Apple ML Research 提出一种半监督联邦语音识别（ASR）方案，通过协同设计客户端在线伪标签生成与服务端标注数据更新，解决序列误差累积导致的训练发散问题。该方案利用服务端持续训练稳定在线教师模型，在 11 组对比中有 9 组超越先前最强方法，域内平均提升 20.8%，跨域提升 10.0%，显著缩小了与全监督联邦学习的差距。
Physics WorldAI 评分3030 Nancy Grace Roman 太空望远镜如何将星空转变为数据集
NASA 的 Nancy Grace Roman 太空望远镜正前往距地球 150 万公里的 L2 点，将加速天文学从单目标观测转向全天区普查与庞大数据集挖掘。该望远镜配备 2.4 米主镜，图像清晰度与哈勃相当，且宽场成像仪单次覆盖天区是哈勃的至少 100 倍。首批图像预计于 2027 年初发布，兼顾宇宙宏观生态分布与单个天体细节。
Together AI Blog精选AI 评分6666 如何以 17 美元微调并部署类似 Jev 的专用分类模型
Together AI 发布实战教程，指导用户基于 Qwen3.5 4B 基础模型和约 3.8 万条多源数据微调类似 Jev 的专用分类模型，并将其部署为 HTTP 端点。该微调流程耗时约 25 分钟、花费约 17 美元，模型可直接解析输入状态并输出规范的 JSON 结构化判定结果。相关数据采样、清洗与部署脚本均已在 GitHub 的 tev1 仓库开源。
推荐理由：文章给出了以约 17 美元微调并部署专用分类模型的完整代码与数据处理流程，展示了针对结构化任务低成本定制轻量模型的工程实践。
Latent SpaceAI 评分7070 小米发布开源全模态模型 MiMo-V2.6-Pro，以约 300 万美元强化学习训练登顶开源榜
小米发布开源原生全模态模型 MiMo-V2.6 系列，其中 MiMo-V2.6-Pro 拥有 1.02T 总参数和 42B 激活参数，在 Artificial Analysis 智能指数上登顶开源模型榜首。
Google AI BlogAI 评分4646 Google 携手联合国让全球数据更易于探索
Google 与联合国系统联合推出了 UN System Data Commons 平台。这是一个全新的开放平台，旨在让全球统计数据更易于公开获取与检索。
Latent SpaceAI 评分5757 游戏学到的技能能否迁移到现实工作？Good Start Labs 探索 AI 游戏强化学习
Good Start Labs 通过将《1830》和 Diplomacy 等策略游戏构建为强化学习环境，探索游戏内策略思考向金融分析与客户支持等现实任务的迁移。实验表明，在《1830》中采用工具调用和实时规划的多轮终端 Agent 训练后，成功提升了在 Finance-Agent 基准上的表现。该公司目前主要面向前沿实验室销售游戏智能体轨迹数据与端到端强化学习训练环境。
Together AI Blog精选AI 评分6767 Together AI 升级微调服务：支持新开源模型、实时指标追踪与专家层 LoRA
Together AI 宣布扩展微调服务，新增对 GLM-5.3、Qwen 3.8、Gemma 4 等开源权重模型的支持，并下调多款模型 30% 至 70% 的训练价格。新版本加入实时训练指标追踪与面向 MoE 架构的 Expert LoRA 功能，支持验证集早停并自动退还未用步数费用。平台还提供训练前数据 Token 化预览、文件预检校验及样本权重调节能力。
推荐理由：微调平台引入专家层适配器与早停机制，为开发者提供了更精准控制 MoE 训练并降低试错成本的实现路径。
Ahead of AIAI 评分6060 从零构建 AI 文本检测器
Sebastian Raschka 发布了一套从零构建 AI 文本检测器的实践教程，演示如何通过微调 DistilBERT 分类器输出 0-100 的生成概率分值。项目涵盖模型评估、微调训练与本地部署，不仅构建了支持整篇与分块打分的浏览器 UI 及 API，还将检测器用作验证器以探讨小语言模型对抗检测与实际局限性。