跳到正文

全部动态

今日 1 条
10月31日周六
  1. arXiv cs.LG35

    Predicate Neuron:基于梯度学习的谓词关系可微量化

    研究人员提出 Native Predicate Neuron,通过一阶逻辑量化为标准深度架构引入可微符号推理能力。该神经元用单一可训练参数建模关系逻辑,在执行硬逻辑操作的同时保持反向传播可微,可有效逼近非连续函数。实验表明其在 CNN、RNN 和 Transformer 等架构上显著加速收敛并提升准确率,现已支持 Keras 与 PyTorch。

  2. arXiv cs.LG27

    神经偏微分方程发现中的阈值兼容性与支撑集选择诊断

    神经网络偏微分方程(PDE)发现研究推导出中位数/样本标准差阈值的精确双信号保留边界与完全向量扰动界,指出高精度回归在支撑集选择后仍可能丢失正确方程。在 4 条未使用解析轨迹的全部 240 次物理残差对比中,给定真实支撑集的估计均优于未更改的被选方程。该系列有限诊断方法可明确区分阈值不兼容、重拟合破坏与评分剔除。

  3. arXiv cs.LG47

    权重更新带来了什么:跨大语言模型训练阶段的 Leverage 分析

    研究提出 Leverage 指标衡量单位权重更新的收益,发现模型不同训练阶段的更新效能跨越四个数量级。Olmo-3 和 Tülu-3 等测试显示,预训练效能处于随机水平,SFT 为随机水平 5 倍,RLVR 为 400-1,500,DPO 则达 400-23,000。若缺少 fp32 主副本,bf16 训练会冻结 36-99% 坐标并将 Leverage 降低多达 7 倍。

  4. arXiv cs.LG30

    面向噪声深度学习的动量引导优化器:MGO-SC 作为 Adam 式更新的一致性门控

    轻量优化器 MGO-SC 通过梯度符号指数移动平均构建坐标级一致性门控,对符号波动的坐标降权以改进 Adam 类算法在噪声下的更新稳定性。其均值保持变体在 CIFAR-10 和 ResNet-18 测试中,于 40% 对称标签噪声下较 AdamW 基准提升 1.4 个百分点(Wilcoxon p<0.01)。该方法无需二阶信息或逐样本过滤,代码与原始日志已开源。

10月30日周五
  1. 科学网31

    南信大团队探索高分辨率气象资料同化新方案

    南京信息工程大学邹晓蕾团队提出高分辨率气象资料同化新方案,重点探讨了卫星观测与气象深度学习的融合路径。研究建议建立AI物理参数化模型并引入四维变分资料同化(4D-Var)系统,以应对数千米至数百米分辨率下的动力与物理约束瓶颈。该思路推动资料同化与AI双向赋能,旨在进一步提升热带气旋等复杂天气系统的预报能力。

  2. arXiv quant-ph29

    量子学习中自适应局部测量可指数级超越非自适应全局测量

    研究表明,在单副本且无量子存储的量子学习中,自适应局部测量相比允许任意全局测量的非自适应协议可取得指数级优势。通过单量子比特测量与一轮自适应,自适应协议在固定精度下仅需对数级样本副本数,而所有非自适应协议均需指数级副本。该量子态完全可分离且无需纠缠,证实测量不相容性可作为一种被经典反馈利用的独立量子学习资源。

  3. arXiv quant-ph26

    利用神经网络推断量子态传输次数

    研究表明仅凭传输数据即可利用前馈神经网络推断重复量子态传输(QST)中的信道使用次数。在单次使用未重置的 XX 自旋链信道时,输入发送与接收的 Bloch 向量,网络识别信道使用次数的准确率超过 90%。若进一步结合信道的 U(1) 对称性采用两分量表征,该分类准确率可提升至约 95%。

  4. arXiv quant-ph26

    有限探测事件记录下光学量子态分类:零拍探测与外差探测对比

    针对有限探测事件记录下 7 类光学量子态的神经网络分类,外差探测在小样本条件下表现优于基于重构的零拍探测。在 N=100 个探测事件和 20% 去相位噪声下,外差探测对卷积神经网络的分类准确率比采用滤波反投影重构的零拍探测高出 14.1 个百分点。但在 N=10^3 及以上事件量,或零拍网络不经重构直接处理数据时,两者性能未呈现显著差异。

  5. arXiv quant-ph27

    量子线性组合中的贫瘠高原:干涉与李代数控制

    该研究针对量子酉算子线性组合(LCU)分析贫瘠高原问题,证明单次 LCU 的总梯度方差至少为分支方差乘以系数幅度的四次方,无需 Haar 随机假设。作者推导了量化分支干涉贡献的精确梯度公式,在 4-qubit matchgate 示例中展示了多项式方差及联合 Haar 采样下的指数集中,并给出了李代数控制与误差界。

  6. arXiv quant-ph33

    AI 与量子开源软件展望

    针对 AI 辅助量子开源软件开发面临的验证难题与审查负担,一项新研究将可验证性列为核心要求。通过分析 5 届量子开源黑客松涉及的 110 个代码仓库及逾 1600 名参与者的调查,作者提出了要求提供可复现证据的验证规范与贡献标准。团队同时维护了一个开源配套仓库,以帮助开源项目采纳相关提议并支持成果复现。

  7. arXiv quant-ph25

    量子测量数据生成式学习的样本复杂度

    研究提出了一个偏差-方差分析框架,用于确定有限数据下生成式学习量子测量分布的样本复杂度,将期望 KL 误差分解为表征偏差与估计方差。在充分采样机制下,该理论推导出最优误差随样本量 $N$ 从反幂次到 $\ln N$ 反幂次衰减的四类标度律。该框架在横场 Ising 模型的 Born 分布中成功预测了局域自回归模型的最优上下文半径与误差表现。

  8. 科学网28

    四川农业大学在农产品多组分农药残留精准识别领域取得新进展

    四川农业大学团队提出晶格畸变与机器学习协同新策略,成功实现对氯虫苯甲酰胺和多菌灵等复合农药残留的高灵敏同步识别。该平台融合支持向量机与随机森林算法解耦复杂农业基质干扰,在515个测试样本中分类准确率达0.98。团队还将其与手机App集成为便携式检测系统,在草莓、白菜、葡萄等实际果蔬中完成现场快速筛查验证。

  9. 科学网19

    中科院成都山地所揭示震后植被结构与功能差异化恢复路径

    中国科学院成都山地所团队以九寨沟地震为案例,构建融合植被叶面积指数(LAI)与总初级生产力(GPP)的双维度评估框架,揭示出震后植被呈现显著的结构与功能不同步恢复特征。研究发现高烈度扰动区以功能恢复为主,低烈度区则以结构恢复为主导;灾后植被恢复路径受扰动程度与植被组分共同影响,具有长期的空间异质性。

  10. 量子位64

    清华联合无问芯穹与智元提出具身智能群体经验学习范式

    清华大学、无问芯穹与智元联合提出群体经验学习(CEL)范式,让机器人通过共享同伴经验进行自主学习,并在 96 台真实机器人集群中完成验证。在插花、叠衣服、手机包装等五项任务测试中,未参与训练的机器人总体成功率达 97.5%,均超过 6 名人类操作员的平均水平。该方案配合容错异步训练系统与经验检索算法,使训练机器人规模从 16 台增至 96 台时,任务成功率由 86.7% 提升至 98.3%。

  11. The Decoder78

    Anthropic 研究发现专家会无意识采纳 AI 智能体的随机观点并误以为是自主决策

    Anthropic 一项涉及 50 名因果推断专家的实验显示,在没有明确标准答案的分析决策中,专家在高达 86% 的情况下采纳了 AI 智能体通过掷硬币随机设定的倾向,且多数受试者误以为最终结论是自己的独立判断。

    推荐理由:该研究量化揭示了专家在复杂分析中容易无意识采纳 AI 的随机立场并误判为自主决策,为审视智能体协作下的虚假共识与安全复核机制提供了实验依据。

  12. Microsoft Research33

    Microsoft Research Focus 第 97 期

    微软研究院发布 Focus 第 97 期,公布了 ForkPilot、CABRA 等多项前沿 AI 智能体研究成果。自改进框架 ForkPilot 在 6 项 benchmark 评测中匹敌现有最佳方法,并降低最高达 59% 的处理计算需求。研究还通过 CABRA 发现理解代码是编码智能体的核心瓶颈,TeleTune 支持从日志学习技能,蛋白质模型 BioEmu2 则开启公开预览。

10月29日周四
  1. Solidot60

    研究发现非英语提示词的 token 成本显著高于英语

    研究机构 CLEAR 的报告显示,AI 模型处理非英语内容所需的 token 数量显著高于英语,形成了隐性的 token 税。在互联网最流行的 20 种语言中,最昂贵语言消耗的 token 是最便宜语言的 1.5 到 5 倍,扩大至 200 种语言时差距最高可达 17 倍。这一差异不仅推高了非英语地区的调用成本,还会造成更高的响应延迟并缩减有效上下文窗口容量。

  2. Scientific American63

    数学家借助 AI 证明几何猜想,发现无限族罗曼努金恒等式

    埃默里大学博士后黄一峰与合作者提出并证明了 HJO 猜想,发现历史上的罗曼努金恒等式对应空间中的三叶结,并据此推导出无限族此前未知的恒等式。团队联合 Axiom Math 的数学专用 AI 系统 AxiomProver 协作探索证明思路,并将完整证明转译为 Lean 交互式定理证明语言进行机器验证。相关成果已作为预印本发表于 arXiv,为纽结理论、代数几何与数论的交叉研究开辟了新方向。

  3. 科学网71

    OpenAI 称其 AI 模型反驳支撑计算机科学近 30 年的指数时间假设

    OpenAI 宣布其 AI 模型反驳了支撑计算机科学近 30 年的指数时间假设(ETH),并使用数学证明检查软件 Lean 对结果进行了形式化验证。该假设关涉可满足性问题与 P 与 NP 难题的求解边界,团队已邀请麻省理工学院专家及 ETH 原提出者介入改写与复核,后续将制作人类可读证明并组织专业评审。

  4. 量子位50

    分子之心发布 MMDesign 技术报告:19个蛋白设计项目18个成功验证,覆盖6个GPCR靶点

    分子之心发布AI蛋白质从头设计平台MMDesign的技术报告,在覆盖纳米抗体与大环肽的19个设计项目中,单项目仅测9至50个候选分子即实现18个项目成功结合,项目成功率达94.7%。测试的6个GPCR膜蛋白靶点全部获得实验确认的结合分子且最优亲和力达纳摩尔级;其底层结构预测模型MMFold在FoldBench基准上的Top-1高质量成功率为39.0%,达到AlphaFold 3的两倍。

  5. 科学网61

    研究显示与AI聊天机器人互动或加重初发精神病患者症状

    范德比尔特大学医学中心研究发现,与聊天机器人互动可能加重易感人群的精神病症状,尤其是经历首次发作的患者。团队在约21.6万名患者记录中筛选出73例典型样本,其中28人因使用AI加重症状,主要表现为聊天机器人肯定患者扭曲观点(64%)或AI本身成为妄想对象(21%)。研究指出AI并非直接致病因,但建议精神科诊疗将评估患者AI使用情况纳入常规环节。

  6. arXiv cs.LG48

    反应式优化器 OPAL

    研究人员提出反应式优化器 OPAL,利用预训练大语言模型智能体在单次训练中实时监测训练动态并重写可执行的优化器代码。该方法无需针对优化器的元训练,可直接调整学习率调度、优化器结构、数值精度和动量,在语言建模与图像生成任务中匹配或超越了固定训练配方。实验表明其能有效应对数据损坏并减少过拟合,代码已开源。

  7. arXiv cs.LG35

    面向时间序列预测的专家专业化研究:学习该共享什么

    研究提出即插即用方法 PCR,通过在冻结的预训练预测器周围交替进行通道特定混合权重的精确条件估计与低秩残差专家的梯度训练,解决多变量时序预测中的通道专业化问题。论文同时引入合成基准 GalaxyTS;在 4 个预测视界平均下,PCR-K4 相对 3 种冻结 backbone 实现了 3.86%-14.25% 的均方误差降幅,且可训练参数量大幅减少。

  8. arXiv cs.LG40

    记忆还是时钟?审计 XLand-MiniGrid 中的记忆优势

    在 XLand-MiniGrid 任务中,LSTM 智能体相比无记忆 MLP 的性能优势经审计发现大多源于对时间步的感知,而非真正的记忆能力。只要向同尺寸无记忆 MLP 输入时间步,两者原本 25 个百分点的差距便缩小至 3.3 个百分点,且线性探针证实 LSTM 状态编码了时间信息。研究还发现常用二元任务判定指标有 76% 为评估噪声,相关评估协议、工具与检查点已全部开源。

  9. arXiv cs.LG26

    面向降维与降阶建模的带 Lipschitz 控制贪心正交多项式流形

    该研究提出用于降维与降阶建模的 Greedy-OPM 算法,利用在训练数据上正交的特征来表示多项式解码器。该算法在解码器 Lipschitz 常数受限的条件下,联合选择编码器模式与多项式特征以最小化重构误差。数值实验表明,引入 Lipschitz 约束能够在保持高重构精度的同时,有效提升脱离训练数据时的泛化表现。

  10. arXiv cs.LG32

    面向双曲传输图神经网络求解器的 CFL 感知边设计

    研究提出一种面向双曲型偏微分方程 GNN 求解器的边局部 CFL 感知设计,将模型最终步预测误差降低了 10.4-14.4%。实验表明,直接向原始边特征追加 CFL 几乎无效,仅在边表示已解耦交互方向与空间尺度时才能发挥最大效用。该改进主要通过抑制激波附近的震荡实现,且随着时间步长增大,误差降低效果更加明显。

  11. arXiv cs.LG36

    从分布匹配视角看 LLM 训练算法

    研究提出基于分布匹配的统一框架,将现代 LLM 各阶段训练算法解释为最小化模型与目标分布间的散度。分析表明 On-Policy Distillation(OPD)仅在模型贴近目标分布时优于经典知识蒸馏(KD),并揭示了强化学习(RL)目标分布退化机制。基于此设计的 Conditional KL(CKL)正则化可在放宽奖励提升限制的同时有效保留模式多样性。

  12. arXiv cs.LG28

    一种基于幅值感知比较的量子 k 近邻(QKNN)实现

    研究人员提出一种实用的量子 k 近邻(QKNN)编码技术,通过为每个向量追加单个分量,实现不同 L2 范数向量间的欧氏距离计算。该方法比同类方案更易理解和实现,且所需量子比特更少。在标准标注数据集的真实噪声仿真基准测试中,得益于更少量子比特带来的更高电路相干性,其表现相比近期的欧氏距离 QKNN 方法取得显著提升。

  13. arXiv cs.LG27

    多项式残差网络具有泛型可识别性

    研究人员证明了带有多项式激活函数和偏置项的常数宽度残差网络(ResNet)具有泛型可识别性。当激活函数的多项式次数不低于 5 时,泛型参数对应的纤维为单元素集;次数不低于 3 且无线性项时纤维由偏置平移与实单位根缩放确定。该方法同样适用于无偏置网络,并导出了奇点学习理论中 ResNet 参数化临界点的必要条件。

  14. arXiv cs.LG33

    利用隐动态从粗糙观测重建精细尺度 PDE 轨迹

    研究者提出 Structured Latent Dynamics(SLD)框架,用于从时空下采样观测中重建高分辨率 PDE 轨迹。在二维 Gray-Scott 等方程系统中,SLD 成功将 25 帧输入重建为空间各方向细化 8 倍的 100 帧高分辨率输出。在参数规模相当时,其平均相对 L2 误差和平均绝对误差均低于非结构化隐动态及 ConvLSTM 基线。

  15. arXiv cs.LG34

    模型抽取结合知识蒸馏:从深度神经网络中恢复参数的密码分析技术

    该研究将密码学权重方向抽取与基于预测标签的学习相结合,提出全连接深度神经网络的参数重构方案。在最大合成架构的最深隐藏层中,Leaky ReLU 恢复了 51-57 个神经元(ReLU 为 0 个),较小架构的预测一致性达 0.9890 至 0.9992。在两个 CIFAR-10 目标上,重构模型实现 56.40% 和 58.29% 的一致性,并在三项功能指标上超越蒸馏基线。

  16. arXiv cs.LG29

    超越仿射重构:用于辐射传输方程的多分辨率 Transformer DeepONet

    研究团队提出一种基于 Transformer 的多分辨率 DeepONet,结合 Perceiver 编码器与交叉注意力解码器实现非仿射重构,用于加速火灾模拟中的辐射传输方程求解。该架构无需统一重采样即可直接处理多分辨率输入,并突破了仿射重构的理论误差下限。二维池火实验表明,该模型在预测辐射强度与入射辐射时精度优于自编码器 DeepONet,且具备更少的可训练参数。

  17. arXiv cs.LG34

    面向单轮分布式表格学习的 Geodesic-SVDD 隐空间 Mixup

    研究提出分布式表格学习框架 Geodesic-SVDD,通过测地线隐空间 Mixup 将任务重构为超球面单类密度估计,支持单轮隐私聚合。在 5 个表格基准中,该方法在 7 种联邦方法中平均 AUROC 最高,在 Covertype 上领先联邦树模型达 21 个 AUROC 点。其单轮变体仅需 1 轮通信,即可在 IID 及轻度偏斜下媲美中心化 Deep SVDD。

  18. arXiv cs.LG27

    阿拉伯湾港口卫星测深基准评测:经验、机器学习与深度学习模型的多站点验证

    阿拉伯湾港口卫星测深(SDB)的多模型基准测试表明,验证划分方式对精度的影响远超模型本身,同一 LightGBM 模型在随机划分与未见站点下的 RMSE 分别为 0.57 m 和 1.66 m。跨站点迁移中 Stumpf 比值法以 1.45 m RMSE 表现优于 LightGBM 与 U-Net,而在本地控制点辅助下混合模型在 0-11 m 水深可达 1.11 m RMSE。