Muon 使首个 MoE 层更难实现负载均衡
研究发现在 55M 和 108M 激活参数的 MoE 模型中，Muon 优化器会使首个 MoE 层的路由偏置跨度平均翻倍，导致预热后最繁忙专家的负载达到公平份额的 4 到 7 倍。
#论文/研究
#论文/研究
今日 0 条arXiv cs.LGAI 评分4141 arXiv cs.LGAI 评分4040 面向核聚变的生成建模：仿星器快离子模拟大规模基准 BoSS
研究人员推出首个仿星器引导中心模拟的大规模基准数据集 BoSS，以利用机器学习加速核聚变装置设计。该数据集包含 180,000 个不同磁流体动力学平衡构型及其模拟结果与轨迹。研究团队据此开展了用于生成优良粒子约束设计的生成建模，以及预测热沉积模式和粒子轨迹的代理模型任务。
arXiv cs.LGAI 评分3131 TERRA：支持无身份上报的区域火灾检测边缘 AI 框架
边缘 AI 框架 TERRA 结合本地推理、无身份区域标记上报与置换不变聚合，用于高效区域火灾检测。在分布式室内 EN54 数据集测试中，TERRA-Feature 凭 24-bit 载荷取得 0.990 平均 AUPRC，TERRA-Score 仅需 6-bit 达到 0.987，二者在 FAR $\le$ 1% 下的 MDR 均为 1.81%。
arXiv cs.LGAI 评分5656 Metis-1.6 技术报告：单人训练的混合 Mamba-2 与 MoE 架构语言模型
独立研究者发布 Metis-1.6 技术报告，推出从零训练的 Praxis（2.94B）和 Logos（10.23B）两款混合 Mamba-2 与注意力 MoE 模型。
arXiv cs.LGAI 评分2525 SAC-GCL：面向图对比学习的结构感知压缩
SAC-GCL 提出了一种用于图对比学习的结构感知压缩框架，通过结构分解提取高内聚子图并压缩为超节点，构建保留局部密度与高阶宏观结构的粗化图视图。该框架利用多种内聚子图模型生成互补视图，并通过分层视图编码器处理多分辨率信息。在 6 个基准数据集上的实验表明，该方法相比随机扰动能生成更鲁棒且具判别力的图表征。
arXiv cs.LGAI 评分3333 nn-EQL：面向高维材料数据的可解释神经方程学习
研究者提出方程学习框架 nn-EQL，通过自定义激活函数的神经网络迭代训练、剪枝与重训练，从高维材料数据中发现紧凑且可解释的方程。该框架借助受最小描述长度（MDL）启发的评分权衡误差与稀疏度，支持逐项贡献、敏感度与不确定性诊断。团队已在 AI-Feynman 基准、异质材料有限元模拟及高通量薄膜沉积数据上验证了其有效性。
arXiv cs.LGAI 评分3535 利用超参数迁移与模型集成改进数据受限缩放
研究提出结合超参数迁移幂律与集成缩放法则的方案，解决了大语言模型在数据受限缩放下超参数固定与忽视集成的局限。在 FineWeb 的 100M tokens 上训练，该方案比以往方法降低验证损失超 0.15 nats，困惑度降低 14%，并通过集成实现了性能单调提升。相关规则从小规模运行中拟合，并在高达 12 倍算力预算下完成验证。
arXiv cs.LGAI 评分3535 通过循环实现深度：迈向超高效端侧 ASR
研究人员提出一种块循环 ASR 架构，通过权重共享的循环块替代参数化深度，以减少一个数量级的参数实现超高效端侧语音识别。在 Open ASR Leaderboard 基准测试中，仅含两个共享块的模型平均可恢复大模型 97.4% 的准确率。该架构复用权重以降低内存访问与推理能耗，并支持轻量级 MoE-LoRA 适配以实现低成本端侧个性化。
arXiv cs.LGAI 评分2929 基于成员查询学习最小化利益相关者违背的抽奖方案
针对多版本 AI 混合部署中不同利益相关者标准冲突的问题，NeurIPS 2026 论文提出通过二元成员查询寻找混合方案，以最小化拒绝的主体数量。理论证明该问题为 APX-hard，但在候选版本数 $m$ 为常数时存在多项式时间精确算法。当仅能均匀抽样部分主体时，还可通过线性规划提供样本量与总体规模 $n$ 无关的理论保证。
arXiv cs.LGAI 评分3535 无时钟学习：分区不变神经网络
研究人员提出无时钟分区不变神经网络及 Clock-Free Event（CFE）层，通过时间介导非对易（TM）模型使异步事件流处理摆脱分帧切片依赖并保持时序敏感性。CFE 层的计算复杂度随事件数呈线性增长。在初步实验中，TM 状态在 DVS128 Gesture 上比加性状态高出 3.5-9.1 分，在 SHD 与 Speech Commands 上分别领先 24.5 和 30.6 分。
arXiv cs.LGAI 评分2626 面向医学影像的负责任量子机器学习：针对敏感子群的公平性审计
研究对医学影像分类中的经典与量子分类器（QSVM、QCNN）展开公平性审计，证实量子机器学习并不天然公平，在取得竞争性总体性能的同时仍存在敏感子群差异。在 DDI 皮肤病和 CheXpert 数据集上测试 GRL 与 Equalized Odds 正则化等方案显示，QSVM 结合两者在 DDI 上的权衡接近 PanDerm，但部分配置因损失全局判别力而不具临床可接受性。
arXiv cs.LGAI 评分3838 辐条而非圆环：重新审视大语言模型中的星期流形
一项针对大语言模型星期流形的研究发现，其概念表征并非连续圆环，而是呈环状排列的 7 个离散状态。局部敏感度在 7 个星期处存在极小值，使得沿流形引导时呈现阶梯状映射，且中间过渡空间并未表征具体时间、不确定性或自然文本。该结果挑战了概念流形连续变化的假设，促使学界重新审视沿表征流形移动的实际含义。
arXiv cs.LGAI 评分3434 贝叶斯优化中针对先验数据拟合网络（PFN）的各向异性置信域扭曲
针对贝叶斯优化中先验数据拟合网络（PFN）在目标函数长度尺度偏离元训练先验时的性能下降，研究提出各向异性置信域（ATR）扭曲方法。该方法利用核目标对齐估计各维度长度尺度并对输入空间进行仿射缩放，在无需重训网络且保持 $\mathcal{O}(d \cdot N^2)$ 推理成本的前提下修正错配。在 Matérn-3/2 核测试中，该方法改善了 PFN 在极端长度尺度下的优化表现，代码已开源。
arXiv cs.LGAI 评分2626 地下水位异常预测的选择性迁移学习：准确率与风险权衡
研究针对地下水位异常预测评估了上下文感知选择性迁移学习（CASL），以解决预训练迁移损害部分异质水井性能的问题。在 457 口水井与 13,718 个测试窗口下，固定迁移导致 18.38-51.86% 的水井性能受损，CASL 的 RMSE 比无迁移低 0.424-1.084%，部分挽救了 97.53-99.50% 的受损水井。
arXiv cs.LGAI 评分3535 Predicate Neuron：基于梯度学习的谓词关系可微量化
研究人员提出 Native Predicate Neuron，通过一阶逻辑量化为标准深度架构引入可微符号推理能力。该神经元用单一可训练参数建模关系逻辑，在执行硬逻辑操作的同时保持反向传播可微，可有效逼近非连续函数。实验表明其在 CNN、RNN 和 Transformer 等架构上显著加速收敛并提升准确率，现已支持 Keras 与 PyTorch。
arXiv cs.LGAI 评分2727 神经偏微分方程发现中的阈值兼容性与支撑集选择诊断
神经网络偏微分方程（PDE）发现研究推导出中位数/样本标准差阈值的精确双信号保留边界与完全向量扰动界，指出高精度回归在支撑集选择后仍可能丢失正确方程。在 4 条未使用解析轨迹的全部 240 次物理残差对比中，给定真实支撑集的估计均优于未更改的被选方程。该系列有限诊断方法可明确区分阈值不兼容、重拟合破坏与评分剔除。
arXiv cs.LGAI 评分4747 权重更新带来了什么：跨大语言模型训练阶段的 Leverage 分析
研究提出 Leverage 指标衡量单位权重更新的收益，发现模型不同训练阶段的更新效能跨越四个数量级。Olmo-3 和 Tülu-3 等测试显示，预训练效能处于随机水平，SFT 为随机水平 5 倍，RLVR 为 400-1,500，DPO 则达 400-23,000。若缺少 fp32 主副本，bf16 训练会冻结 36-99% 坐标并将 Leverage 降低多达 7 倍。
arXiv cs.LGAI 评分3030 面向噪声深度学习的动量引导优化器：MGO-SC 作为 Adam 式更新的一致性门控
轻量优化器 MGO-SC 通过梯度符号指数移动平均构建坐标级一致性门控，对符号波动的坐标降权以改进 Adam 类算法在噪声下的更新稳定性。其均值保持变体在 CIFAR-10 和 ResNet-18 测试中，于 40% 对称标签噪声下较 AdamW 基准提升 1.4 个百分点（Wilcoxon p<0.01）。该方法无需二阶信息或逐样本过滤，代码与原始日志已开源。
arXiv quant-phAI 评分2929 量子学习中自适应局部测量可指数级超越非自适应全局测量
研究表明，在单副本且无量子存储的量子学习中，自适应局部测量相比允许任意全局测量的非自适应协议可取得指数级优势。通过单量子比特测量与一轮自适应，自适应协议在固定精度下仅需对数级样本副本数，而所有非自适应协议均需指数级副本。该量子态完全可分离且无需纠缠，证实测量不相容性可作为一种被经典反馈利用的独立量子学习资源。
arXiv quant-phAI 评分2626 利用神经网络推断量子态传输次数
研究表明仅凭传输数据即可利用前馈神经网络推断重复量子态传输（QST）中的信道使用次数。在单次使用未重置的 XX 自旋链信道时，输入发送与接收的 Bloch 向量，网络识别信道使用次数的准确率超过 90%。若进一步结合信道的 U(1) 对称性采用两分量表征，该分类准确率可提升至约 95%。
arXiv quant-phAI 评分2626 有限探测事件记录下光学量子态分类：零拍探测与外差探测对比
针对有限探测事件记录下 7 类光学量子态的神经网络分类，外差探测在小样本条件下表现优于基于重构的零拍探测。在 N=100 个探测事件和 20% 去相位噪声下，外差探测对卷积神经网络的分类准确率比采用滤波反投影重构的零拍探测高出 14.1 个百分点。但在 N=10^3 及以上事件量，或零拍网络不经重构直接处理数据时，两者性能未呈现显著差异。
arXiv quant-phAI 评分2727 量子线性组合中的贫瘠高原：干涉与李代数控制
该研究针对量子酉算子线性组合（LCU）分析贫瘠高原问题，证明单次 LCU 的总梯度方差至少为分支方差乘以系数幅度的四次方，无需 Haar 随机假设。作者推导了量化分支干涉贡献的精确梯度公式，在 4-qubit matchgate 示例中展示了多项式方差及联合 Haar 采样下的指数集中，并给出了李代数控制与误差界。
arXiv quant-phAI 评分3333 AI 与量子开源软件展望
针对 AI 辅助量子开源软件开发面临的验证难题与审查负担，一项新研究将可验证性列为核心要求。通过分析 5 届量子开源黑客松涉及的 110 个代码仓库及逾 1600 名参与者的调查，作者提出了要求提供可复现证据的验证规范与贡献标准。团队同时维护了一个开源配套仓库，以帮助开源项目采纳相关提议并支持成果复现。
arXiv quant-phAI 评分2525 量子测量数据生成式学习的样本复杂度
研究提出了一个偏差-方差分析框架，用于确定有限数据下生成式学习量子测量分布的样本复杂度，将期望 KL 误差分解为表征偏差与估计方差。在充分采样机制下，该理论推导出最优误差随样本量 $N$ 从反幂次到 $\ln N$ 反幂次衰减的四类标度律。该框架在横场 Ising 模型的 Born 分布中成功预测了局域自回归模型的最优上下文半径与误差表现。
Microsoft ResearchAI 评分3333 Microsoft Research Focus 第 97 期
微软研究院发布 Focus 第 97 期，公布了 ForkPilot、CABRA 等多项前沿 AI 智能体研究成果。自改进框架 ForkPilot 在 6 项 benchmark 评测中匹敌现有最佳方法，并降低最高达 59% 的处理计算需求。研究还通过 CABRA 发现理解代码是编码智能体的核心瓶颈，TeleTune 支持从日志学习技能，蛋白质模型 BioEmu2 则开启公开预览。
arXiv cs.LGAI 评分4848 反应式优化器 OPAL
研究人员提出反应式优化器 OPAL，利用预训练大语言模型智能体在单次训练中实时监测训练动态并重写可执行的优化器代码。该方法无需针对优化器的元训练，可直接调整学习率调度、优化器结构、数值精度和动量，在语言建模与图像生成任务中匹配或超越了固定训练配方。实验表明其能有效应对数据损坏并减少过拟合，代码已开源。
arXiv cs.LGAI 评分3535 面向时间序列预测的专家专业化研究：学习该共享什么
研究提出即插即用方法 PCR，通过在冻结的预训练预测器周围交替进行通道特定混合权重的精确条件估计与低秩残差专家的梯度训练，解决多变量时序预测中的通道专业化问题。论文同时引入合成基准 GalaxyTS；在 4 个预测视界平均下，PCR-K4 相对 3 种冻结 backbone 实现了 3.86%-14.25% 的均方误差降幅，且可训练参数量大幅减少。
arXiv cs.LGAI 评分4040 记忆还是时钟？审计 XLand-MiniGrid 中的记忆优势
在 XLand-MiniGrid 任务中，LSTM 智能体相比无记忆 MLP 的性能优势经审计发现大多源于对时间步的感知，而非真正的记忆能力。只要向同尺寸无记忆 MLP 输入时间步，两者原本 25 个百分点的差距便缩小至 3.3 个百分点，且线性探针证实 LSTM 状态编码了时间信息。研究还发现常用二元任务判定指标有 76% 为评估噪声，相关评估协议、工具与检查点已全部开源。
arXiv cs.LGAI 评分2626 面向降维与降阶建模的带 Lipschitz 控制贪心正交多项式流形
该研究提出用于降维与降阶建模的 Greedy-OPM 算法，利用在训练数据上正交的特征来表示多项式解码器。该算法在解码器 Lipschitz 常数受限的条件下，联合选择编码器模式与多项式特征以最小化重构误差。数值实验表明，引入 Lipschitz 约束能够在保持高重构精度的同时，有效提升脱离训练数据时的泛化表现。
arXiv cs.LGAI 评分3232 面向双曲传输图神经网络求解器的 CFL 感知边设计
研究提出一种面向双曲型偏微分方程 GNN 求解器的边局部 CFL 感知设计，将模型最终步预测误差降低了 10.4-14.4%。实验表明，直接向原始边特征追加 CFL 几乎无效，仅在边表示已解耦交互方向与空间尺度时才能发挥最大效用。该改进主要通过抑制激波附近的震荡实现，且随着时间步长增大，误差降低效果更加明显。
arXiv cs.LGAI 评分3636 从分布匹配视角看 LLM 训练算法
研究提出基于分布匹配的统一框架，将现代 LLM 各阶段训练算法解释为最小化模型与目标分布间的散度。分析表明 On-Policy Distillation（OPD）仅在模型贴近目标分布时优于经典知识蒸馏（KD），并揭示了强化学习（RL）目标分布退化机制。基于此设计的 Conditional KL（CKL）正则化可在放宽奖励提升限制的同时有效保留模式多样性。
arXiv cs.LGAI 评分2828 一种基于幅值感知比较的量子 k 近邻（QKNN）实现
研究人员提出一种实用的量子 k 近邻（QKNN）编码技术，通过为每个向量追加单个分量，实现不同 L2 范数向量间的欧氏距离计算。该方法比同类方案更易理解和实现，且所需量子比特更少。在标准标注数据集的真实噪声仿真基准测试中，得益于更少量子比特带来的更高电路相干性，其表现相比近期的欧氏距离 QKNN 方法取得显著提升。
arXiv cs.LGAI 评分2727 多项式残差网络具有泛型可识别性
研究人员证明了带有多项式激活函数和偏置项的常数宽度残差网络（ResNet）具有泛型可识别性。当激活函数的多项式次数不低于 5 时，泛型参数对应的纤维为单元素集；次数不低于 3 且无线性项时纤维由偏置平移与实单位根缩放确定。该方法同样适用于无偏置网络，并导出了奇点学习理论中 ResNet 参数化临界点的必要条件。
arXiv cs.LGAI 评分3333 利用隐动态从粗糙观测重建精细尺度 PDE 轨迹
研究者提出 Structured Latent Dynamics（SLD）框架，用于从时空下采样观测中重建高分辨率 PDE 轨迹。在二维 Gray-Scott 等方程系统中，SLD 成功将 25 帧输入重建为空间各方向细化 8 倍的 100 帧高分辨率输出。在参数规模相当时，其平均相对 L2 误差和平均绝对误差均低于非结构化隐动态及 ConvLSTM 基线。
arXiv cs.LGAI 评分3434 模型抽取结合知识蒸馏：从深度神经网络中恢复参数的密码分析技术
该研究将密码学权重方向抽取与基于预测标签的学习相结合，提出全连接深度神经网络的参数重构方案。在最大合成架构的最深隐藏层中，Leaky ReLU 恢复了 51-57 个神经元（ReLU 为 0 个），较小架构的预测一致性达 0.9890 至 0.9992。在两个 CIFAR-10 目标上，重构模型实现 56.40% 和 58.29% 的一致性，并在三项功能指标上超越蒸馏基线。
arXiv cs.LGAI 评分2929 超越仿射重构：用于辐射传输方程的多分辨率 Transformer DeepONet
研究团队提出一种基于 Transformer 的多分辨率 DeepONet，结合 Perceiver 编码器与交叉注意力解码器实现非仿射重构，用于加速火灾模拟中的辐射传输方程求解。该架构无需统一重采样即可直接处理多分辨率输入，并突破了仿射重构的理论误差下限。二维池火实验表明，该模型在预测辐射强度与入射辐射时精度优于自编码器 DeepONet，且具备更少的可训练参数。
arXiv cs.LGAI 评分3434 面向单轮分布式表格学习的 Geodesic-SVDD 隐空间 Mixup
研究提出分布式表格学习框架 Geodesic-SVDD，通过测地线隐空间 Mixup 将任务重构为超球面单类密度估计，支持单轮隐私聚合。在 5 个表格基准中，该方法在 7 种联邦方法中平均 AUROC 最高，在 Covertype 上领先联邦树模型达 21 个 AUROC 点。其单轮变体仅需 1 轮通信，即可在 IID 及轻度偏斜下媲美中心化 Deep SVDD。
arXiv cs.LGAI 评分2727 阿拉伯湾港口卫星测深基准评测：经验、机器学习与深度学习模型的多站点验证
阿拉伯湾港口卫星测深（SDB）的多模型基准测试表明，验证划分方式对精度的影响远超模型本身，同一 LightGBM 模型在随机划分与未见站点下的 RMSE 分别为 0.57 m 和 1.66 m。跨站点迁移中 Stumpf 比值法以 1.45 m RMSE 表现优于 LightGBM 与 U-Net，而在本地控制点辅助下混合模型在 0-11 m 水深可达 1.11 m RMSE。
arXiv cs.LGAI 评分3333 H-GLow：基于风险引导离散流匹配加速图生成
研究人员提出 H-Glow 框架，通过将连续时间马尔可夫链（CTMC）生成元分解为风险率与条件跳转分布，动态规划图编辑并调整采样时间以加速图生成。该框架既可适配预训练图离散流匹配（DFM）模型，也可结合新提出的 DFM 模型直接预测风险与跳转，在分子和合成图基准上以显著更少的采样步数提升了生成质量。
arXiv cs.LGAI 评分3333 Variational Atlas Autoencoders 与自监督坐标卡选择
研究人员提出 Variational Atlas Autoencoders，通过构建局部潜在表示图册与潜在证据路由，实现了完全自监督的坐标卡分配。该模型通过识别重叠区域与转换映射，支持贴近数据流形的跨图卡连续插值。在 CelebA 等数据集上，其潜在空间结构和采样质量均优于同容量基线，且采样仅需评估单个图卡的解码器。