延迟解码与单次乘法：重新审视量化权重的点积计算
针对 1-4 bit 权重部署，研究者提出延迟解码点积重构方案，使长度为 n、k-bit 权重的点积仅需 n+2^k 次加法与至多 2^k 次解码和乘法。该方案将权重编码直接用作地址累加激活值并在末尾统一解码乘算，使乘法器数量减少 n/2^k 倍，局部权重内存缩减最高达 w_d/k。基于此设计的 SA-PE 处理单元已在 FPGA 综合中验证了硬件收益与计算等价性。
全部AI 动态
全部动态
今日 12 条arXiv cs.LGAI 评分3434 arXiv cs.LGAI 评分3131 谱聚类与密度聚类层次结构的拓扑等价性
该研究证明在适当的扩散时间下，对拉普拉斯算子诱导的扩散距离应用单链接构建的谱层次结构，在高度单调重缩放意义下与密度超水平集聚类树拓扑等价。研究进一步表明，$k$-NN 图实现通过扩散距离的一致逼近继承了该等价性，从而实现了从谱图构建到密度水平集拓扑的有限样本归约。
arXiv cs.LGAI 评分3737 大模型结构化稀疏学习：兼顾模型可压缩性与高效推理
研究人员提出 S-SALAAD 框架，在训练中联合学习低秩与结构化稀疏组件，使单个 checkpoint 能弹性适配多种内存预算。该框架支持硬件兼容稀疏模式并配备专用 CPU 与 GPU 内核，消除传统稀疏的索引与内存开销。在 Llama2 和 Qwen3 上的实验表明，其在困惑度、内存占用和推理延迟上均推进了经验 Pareto 前沿。
arXiv cs.LGAI 评分3636 扩展 Transformer 能量模型实现高质量图像合成
研究团队提出潜在空间下的 Transformer 能量模型（TEM），解决了传统能量模型在高维采样与深度架构训练中的瓶颈。通过多层能量求和与正表示对齐（PRA），TEM-XL 在无需无分类器引导的情况下，在 ImageNet 256×256 上取得 3.82 的 FID-50K，512×512 达 8.24。该方法同时验证了组合生成、zero-shot 图像修复及分布外检测能力。
arXiv cs.LGAI 评分3636 课程学习的有效性取决于奖励稀疏度与竞争最优
研究表明强化学习中课程学习的有效性取决于奖励稀疏度与竞争最优解：密集奖励下课程收益微弱，而在稀疏奖励下课程学习常是模型完成策略学习的必要条件。通过对基于 REINFORCE 的策略学习模型分析，有效课程能降低奖励稀疏度以加速训练，并通过塑造奖励景观引导智能体避开不良局部最优。
arXiv cs.LGAI 评分4545 预测关联而非干预：协变量感知时间序列基础模型的预注册因果审计
预注册因果审计显示，Chronos-2、TiRex-2、TabPFN-TS 与 TimesFM-2.5 等时间序列模型在假设查询中输出的是统计关联而非因果干预效应。在效应可识别时，Chronos-2 和 TiRex-2 仅分别恢复 75% 与 34% 的真实效应。利用 3,000 条合成序列进行干预后训练并配合低秩适应，可将混杂差距缩小 52-61%，预测成本仅增 1-3%。
arXiv cs.LGAI 评分4242 算力与数据约束下的合成数据改写缩放定律
新提出的合成数据改写缩放定律将改写算力计入成本，可预测模型大小、训练 tokens 及改写数据比例对模型损失的影响。在算力受限下，最佳改写比例随算力提升从不足 10% 增至 32%，外推训练的 22B 模型以改写器十分之一算力取得更优 BPB。在数据受限场景下，同尺寸改写器训练出的模型在 3B 及以下规模均优于纯自然数据。
arXiv cs.LGAI 评分3333 大语言模型的人类反馈对齐：数学基础与算法设计
该综述系统梳理了大语言模型与人类偏好对齐的数学基础和算法框架，涵盖监督微调（SFT）、RLHF 以及 DPO 等主流对齐技术。文章探讨了从人类偏好中学习的理论底层，建立了其与逆强化学习（IRL）和离散选择模型的联系，并详细分析了前沿算法的优缺点及实际落地实现要点。
arXiv cs.LGAI 评分3535 Cautious ConFIG：谨慎无冲突逆梯度方法
研究者提出 Cautious ConFIG 算法，通过三行代码扩展恢复与自适应优化器结合时的无冲突梯度保证，解决物理信息神经网络（PINN）训练中的梯度冲突问题。在 1D 粘性 Burgers 方程、1D 非线性薛定谔方程和 2D Kovasznay 流三个 PINN 基准测试中，该方法性能一致优于标准 ConFIG 基线，相关代码已开源。
arXiv cs.LGAI 评分3535 反思城市表征学习的多视图融合
研究人员针对城市表征学习中模态权重固化与梯度不平衡问题，提出自调节多视图学习框架 PRISM。该框架采用稀疏 MoE 路由自适应学习区域特定的视图分配，并引入受 PID 启发的调节机制来缓解训练中的梯度冲突。在 3 个大规模城市数据集上的实验表明，PRISM 取得了具竞争力的性能，且优化行为更稳定、区域表征更均衡。
arXiv cs.LGAI 评分3434 投机扩散的双重权衡
研究提出通过联合调整扩散工作量与投机解码宽容度，探索投机扩散（Speculative Diffusion）的速度与质量帕累托前沿。扩散大语言模型（dLLMs）能通过并行生成 token 作为草稿模型加速推理，投机解码本身也能放宽验证器的接受标准来实现有损快速采样。实验表明，联合调节这两项参数相比单步扩散草稿能有效扩展速度-质量帕累托前沿。
arXiv cs.LGAI 评分3838 Nestor 嵌套稀疏架构：面向可扩展预训练与持续学习
研究者提出名为 Nestor 的 Transformer 架构，通过将条件计算机制扩展至注意力算子并与 MoE 分层嵌套，在同等算力和稀疏度下的语言模型预训练表现优于传统 MoE。Nestor 还适用于持续预训练，能更高效扩展至长上下文并适应新领域，同时显著减少对旧领域的遗忘。目前该研究的代码与模型权重已在 GitHub 开源。
arXiv cs.LGAI 评分4141 CuraLoc：通过规划式代码检查实现仓库级故障定位
CuraLoc 提出在源码检索前进行单次规划式代码检查，以此取代传统迭代式仓库级故障定位。在 SWE-bench Verified 上搭配 GPT-5.2 时，CuraLoc 将 Func@1 准确率提升至 59.3% 且减少 90.3% 的记录 token 消耗，优于 LocAgent。
arXiv cs.LGAI 评分5151 PaperScorer：论文被接收在多大程度上可预测？
研究团队提出 PaperScorer 模型家族，在去除作者身份与格式捷径后仅凭论文文本或页面截图直接预测同行评审的接受或拒绝决定。视觉模型表现最佳，在 ICLR 论文上取得 68% 准确率并在 arXiv 机器学习论文上达到 77%，超过纯文本和前沿推理模型。模型对评分极高与极低的论文预测最准确，中间分数段则保持不可预测，展示了单篇论文自身承载的审稿决策信号。
arXiv cs.LGAI 评分2828 面向联邦遗忘学习的客户端选择框架 PDF：保留客户端并非同等重要
针对联邦遗忘学习，研究人员提出路径依赖客户端选择框架 PDF，通过仅挑选与目标弱耦合的 top-k 保留客户端参与少量轮次重训来消除目标影响。在 non-IID CIFAR-10 实验中，PDF 实现了 0% 遗忘准确率；相比从头重训，该方法减少了约 69% 通信量与 57%–61% 计算量，并在 CIFAR-100 上将保留准确率提升最高达 6.91 个百分点。
arXiv cs.LG精选AI 评分6262 论文指出长程智能体基准测试出奇适应上下文压缩并存在约束丢失风险
一项针对长程编码智能体上下文压缩的研究指出，现有基准测试由于目标固定且进度保存在磁盘上，对信息压缩出奇宽容，但该过程会静默丢弃大量关键任务约束。研究基于 OpenCode 框架测试了五种压缩策略与三款前沿模型，发现没有任何压缩方法优于默认的自我总结，且过度丢弃内容的策略会导致部分模型性能大幅下滑 20 分。
推荐理由：这项研究揭示了现有长程基准测试对上下文压缩的宽容假象，为设计能够保留负向约束的智能体架构提供了关键实证依据。
arXiv cs.LGAI 评分3535 通过按查询模态选择实现高效全模态大语言模型推理
研究提出面向全模态大语言模型（Omni-LLM）的逐查询模态选择方法，在保持模型固定的前提下自适应选取输入模态，以优化准确率与推理成本的权衡。在 WorldSense 基准上评估 Qwen2.5-Omni 与 Qwen3-Omni 发现，该方法表现均优于全模态输入基线。
arXiv cs.LGAI 评分3434 ConsMSA：面向多模态情感分析的语义分布一致性学习
针对跨模态信号中的语义冗余与冲突，研究人员提出多模态情感分析框架 ConsMSA，显式建模模态内与模态间的语义分布一致性。该方法通过计算模态内与模态间一致性得分（I²CS）并结合预测相关性，实现表征对齐正则化、自适应 token 重加权与冗余 token 剪枝。
arXiv cs.LGAI 评分4343 Muon 何时及如何进行预处理？结构化梯度噪声的作用
研究揭示了 Muon 优化器在大语言模型训练中的预处理机制，指出其加速优势源于非均匀采样下的结构化梯度噪声，而非传统各向同性噪声。理论表明 Muon 能将对任务频率的依赖从线性降至平方根，有效平衡高频与稀疏任务，并避免 SignSGD 的旋转诱导负迁移。受控数值实验与初步 LLM 预训练进一步展现了快慢动量（fast-slow momentum）的应用潜力。
arXiv cs.LGAI 评分3333 面向实时分区控制零样本协作的认知受限伙伴框架
研究者提出一种面向实时分区控制零样本协作的训练框架，通过引入反应延迟和感知限制等人类生理约束来构建模拟伙伴，以训练人机协作智能体。在修改版 Lunar Lander 环境中，受训智能体的协作表现达到了最强 cross-play 基线水准，且性能不依赖于训练伙伴的具体生成方式。研究还设计了人类参与者实验，用于检验标准 cross-play 评估对真实人机协同效果的预测能力。
arXiv cs.LGAI 评分3333 基于大语言模型的微服务系统自回归多模态异常检测
研究人员提出基于大语言模型（LLM）的微服务系统自回归多模态异常检测框架 LLMMAD，以解决跨模态融合忽视模态特性以及特征重构的捷径问题。该框架将多模态数据重组为统一序列交由 LLM 建模，配合模态重构头并采用预测未来状态的自回归目标。在 3 个真实数据集上的实验表明，LLMMAD 的 F1-score 分别提升 3.1%、1.4% 和 0.9%，全面优于现有 SOTA 方法。
arXiv cs.LGAI 评分3535 面向物理引导优化的端到端可微扩散条件方法 D2C
研究团队提出面向离线基于模型优化的端到端可微扩散条件方法 D2C，将冻结的条件扩散模型转变为基于梯度的优化器。该方法利用确定性采样的可微逆向去噪链，在测试时直接反向传播代理目标与物理信息惩罚项的梯度来优化条件变量。在惯性约束聚变激光脉冲优化、数据中心调度两个真实任务及 4 个 Design-Bench 任务上，D2C 均取得最优综合表现。
arXiv cs.LGAI 评分3333 面向金融犯罪分析的对抗鲁棒多重图神经网络研究
该研究提出了首个针对多重图神经网络的结构攻击与对抗训练框架，用于解决反洗钱模型易受交易结构恶意操纵的问题。该方法基于节点-边关联矩阵优化结构扰动，并引入有向 2-环和 3-环正则化项以约束攻击合理性。在真实反洗钱数据集上的实验表明，所提攻击显著降低了 PR-AUC 检测性能，而对抗训练则能有效提升模型的防御鲁棒性。
arXiv cs.LGAI 评分3131 LeWorldModel 是否保留了局部动作几何？
预训练世界模型 LeWorldModel（LeWM）在微小动作变化下难以精确保留局部动作几何。在 Reacher 与 OGBench Cube 中，最小扰动尺度下模型与模拟器最敏感动作方向的中位数夹角分别相差约 36° 和 42°。扰动增加 10 倍后归一化 Gram 差异分别减少约 70% 和 47%，该结果支持按特定尺度评估动作敏感性。
arXiv cs.LGAI 评分2323 通往 NDE 4.0 之路：自主检测算法、技术与策略综述
无损检测（NDI）正加速向数据驱动的 NDE 4.0 演进，缺陷自动识别技术正显著转向深度学习与生成模型。超声与外观检测仍是主导物理手段，但行业落地面临标准化开源数据集匮乏及 AI 模型黑盒特性的瓶颈。未来发展需聚焦可解释 AI（XAI）与标准化数字孪生协议，以实现检测数据在资产全生命周期管理中的智能融合。
arXiv cs.LGAI 评分2828 面向室内无线电地图估计的协作上下文学习
研究人员提出 Poly-Ripple 框架，首次将室内无线电地图估计（RME）形式化为协作上下文学习（ICL）问题。该方案允许多个客户端利用大型自回归视觉模型（LAVM）且无需更新模型，结合私有示例提示、涟漪排序自回归建模与重要性感知聚合技术。在公开室内 RME 基准测试中，Poly-Ripple 的表现持续优于代表性 ICL 基线。
arXiv stat.MLAI 评分3232 基于仿真优化的语言模型预算受限提示词集扩展与精炼
一项新研究提出基于仿真优化的两阶段框架，在有限评估预算下扩展并精炼语言模型的初始提示词集以最大化任务得分。该框架先将提示词扩展为中等维度向量表示的候选集，随后构建得分代理模型进行序列评估，并引入精炼流程在初始候选集外展开搜索。数值实验表明，在模型调用评估预算受限时，该方法比基准选择方法取得了更高的提示词得分。
arXiv stat.MLAI 评分3434 基于阴性对照与 Minimax 学习的未观测混杂因果推断方法
针对存在未观测混杂且有阴性对照的因果参数估计，研究者提出了一种仅需假设桥函数存在而非完备性条件的替代识别策略。该方法基于 Minimax 学习构建了新估计器，能直接支持再生核希尔伯特空间（RKHS）与神经网络等通用函数类，并尽量避免对桥函数的唯一性要求。论文还在多种假设组合下提供了桥函数与最终因果参数估计的有限样本收敛保证。
arXiv stat.MLAI 评分3131 基于 e-closure 泛化一致改进共形风险控制
研究提出名为 recertification 的通用范式，通过泛化 e-closure 原理利用有效性凭证中的松弛预算，一致改进了共形风险控制（CRC）的保守性。该方法在有限可交换分布下保持有效，在任意校准样本上均不比原 CRC 保守，并可拓展至提升随机化 e-BH 的错误发现率控制。CIFAR-100 分层分类实验与模拟表明，该方法有效提升了预算利用率、信息量与检验功效。
arXiv stat.MLAI 评分3232 LUCID：基于条件密度估计的局部变量重要性度量方法
LUCID 是一种新型模型无关的局部变量重要性（VI）度量指标与估计器，通过从给定其余特征的完整条件分布中采样合理值来扰动目标特征。该方法解决了以往扰动策略因忽视特征依赖而生成不切实际反事实样本的问题，并提供具备收敛保证与不确定性量化的估计器。实验表明 LUCID 在模拟和真实数据中均展现出稳定性能与实用价值。
arXiv stat.MLAI 评分3737 基于路由集成与轨迹归因的多目标强化学习
研究提出基于路由集成与轨迹归因的多目标强化学习方法，以解决多目标冲突导致的策略学习样本效率低问题。该方法通过动态路由轨迹至高潜能基策略，在 Meta-World 和 MO-Gymnasium 在线环境下较基准提升 4.3% 的平均性能。其设计的核代理轨迹归因算法可捕捉轨迹间的非线性交互，在轨迹选择任务中较基线归因方法实现 27% 的奖励提升。
arXiv stat.MLAI 评分2626 随机多目标多臂老虎机中的平衡采样
针对随机多目标多臂老虎机中帕累托最优臂的平衡采样难题，该研究提出了一种自适应前二采样算法。该方法以 KL 散度度量采样不公平性，在帕累托集稳定时期望不公平度与方差分别达到 $O(\log T/T)$ 和 $O(T^{-1})$ 理论界并匹配信息论下界。其探索强化变体在长时程下保持该期望收敛率，同时将方差界优化至 $O(\log^2 T/T^2)$。
arXiv stat.MLAI 评分2626 Wasserstein 损失下条件生成学习的极小极大速率
该研究确立了积分 Wasserstein 损失下条件生成学习的极小极大速率。在期望损失下其速率与均匀协变量情形一致，高阶矩损失则会因未观测协变量区域引入阶为 $n^{-1}$ 的额外风险，研究通过自适应局部化给出了匹配上界。此外，研究利用多尺度下界闭合了二维无条件 $W_1$ 速率的对数间隙，并给出了条件 Brenier 映射的极小极大速率。
arXiv stat.MLAI 评分3535 面向 Bayesian LoRA 的先验预测匹配
研究人员提出针对 Bayesian LoRA 的闭式先验预测匹配估计器，可在微调前直接确定低秩权重更新的先验超参数。理论证明最优先验精度与秩 $r$ 呈 $r^{-1/2}$ 缩放关系，单次估计即可在所有 rank 间泛化。在 RoBERTa-large 上，该方法无需验证数据即可改善预测 NLL 与模型校准度，并展现出具有竞争力的分布外检测能力。
arXiv stat.MLAI 评分2626 $\alpha$-散度广义后验的渐近行为研究
$\alpha$-散度正则化的广义变分推断解在重缩放后在 $L^1$ 范数下收敛至非高斯分布，其集中尺度偏离了经典 Bernstein-von Mises 定理典型的 $n^{-1/2}$。
arXiv stat.MLAI 评分3434 AutoEnergyDesign：用于能源系统设计自动优化的 LLM 智能体框架
AutoEnergyDesign 框架利用 LLM 智能体推理先前的模拟结果并借助 git 机制自动回滚未成功的变更，实现建筑能源系统设计的自动化优化。在实测负荷测试中，基于 Claude Haiku 5.5、Sonnet 5.5 与 Opus 5.5 的智能体均达到约 3.53 MEUR 的 25 年净现成本，表现优于 TPE 贝叶斯优化和演化策略基线。
arXiv stat.MLAI 评分3636 机器遗忘应以风险感知的输出控制为核心
针对偏见、毒性、模型幻觉和敏感信息泄露等缺陷，机器遗忘（Machine Unlearning）应优先聚焦具备统计保证的输出空间控制，而非参数空间的相似性。现有追求与从头重训模型参数不可区分的目标脱离实际，而输出控制能提供严谨鲁棒的目标与可解释保证，并可扩展至现代部署场景。该观点已获得实证证据与理论结果的支持。
arXiv stat.MLAI 评分2626 基于数据增强局部化的共形新颖性检测
针对变量间关系的条件新颖性检测问题，研究提出一种基于共形推断的数据增强局部化共形 p 值。该方法在核估计中结合校准与测试数据来重新校准条件分布估计器，确保了有限样本有效性并提升检测效率。配套检测算法与数据驱动带宽选择方案在严格控制有限样本错误发现率的同时增强了检测功效，已在模拟与真实数据实验中得到验证。
arXiv stat.MLAI 评分3232 扩散模型记忆效应的有效早期检测
研究提出将拆分保形校准与序列监控相结合的方法，用于无条件扩散模型去噪轨迹中训练数据记忆效应的无提示词早期检测，并有效控制虚警率。该研究在无条件 CIFAR-10 EDM 上对比了单步 Bonferroni 校准与基于最大记忆分数的轨迹级校准。实验表明，轨迹级校准能更充分利用虚警预算，在保持检测能力的同时可在更高噪声水平下实现更早检测。
arXiv stat.MLAI 评分4747 Scaling Law 估计中的罗生门效应与拟合挑战
神经网络 Scaling Law 的常规拟合存在罗生门效应，即截然不同的参数设置虽然在既有数据上拟合度接近，但在大规模外推时预测结果会出现实质性分歧。研究提出了一种确定性分支定界算法，不仅能保证获得近最优的拟合损失，还能穷举映射出所有近似最优解所对应的完整缩放曲线范围。