GLM-5.3：中国大模型实验室如何紧跟前沿梯队
智谱（Z.ai）发布约 750B 参数的 GLM-5.3 模型，基于 GLM-5.2 底座重点扩展后训练与强化学习，在智能体编码评测中达到前沿水平。分析认为中国实验室能快速跟进并非单纯依赖知识蒸馏，而是得益于更短的模型发布周期、聚焦核心文本与编码场景、积极采购强化学习环境数据以及极高的算力利用效率。
#数据/训练
#数据/训练
今日 0 条InterconnectsAI 评分7575
InterconnectsAI 评分6464 Nathan Lambert 发售大模型后训练教材，解析 RL 算法直觉与系统实践
AI 研究员 Nathan Lambert 宣布其由 Manning 出版的大模型后训练教材正式发货，并同步开放了免费网页版、12 小时配套视频课程与代码练习。全书系统梳理了从 PPO 到 GRPO 等策略梯度算法的数学直觉，并深入剖析异步强化学习的 GPU 系统设计、多教师在线蒸馏以及角色训练中的过度优化陷阱。
Berkeley AI ResearchAI 评分4444 教大语言模型更新信念以实现高效长程交互
研究人员提出 ABBEL 框架，通过监督自然语言信念状态替代传统上下文总结，解决大语言模型长程交互中的性能损耗问题。在协作编程基准 CollabBench 上，结合重构信念评分的 ABBEL-rec-BG 将与全上下文模型的性能差距缩小约 50%，训练步数减少 50%，并大幅降低峰值 token 占用。
Together AI BlogAI 评分5555 Together AI 联合 Y Combinator 为 YC 初创团队推出专属 GPU 集群
Together AI 宣布与 Y Combinator 合作推出面向 YC 初创团队的专属 GPU 集群，解决 AI 原生创业公司面临的算力获取瓶颈与资金压力。入选企业无需签订长期高额合同，即可通过 Together AI 自助门户在数分钟内弹性调配 GPU 用于推理与训练，并享受长期协议级别的优惠费率。该集群目前已处于全负荷运行状态，双方后续计划进一步扩大算力规模以支持企业持续扩张。
Together AI BlogAI 评分4242 Together AI 宣布与 Adaption 达成合作
Together AI 宣布与 Adaption 达成合作，将 Together Fine-Tuning 微调服务接入 Adaptive Data 平台。用户优化数据后可直接在其基础设施上运行 LoRA 或全量微调，支持 Kimi K2.5、GLM 5.1、Qwen 3.5-397B 等超 100B 参数开源模型，并可直接部署至高性能推理服务或导出至 Hugging Face Hub。
Together AI BlogAI 评分4545 分布感知投机解码 DAS 将强化学习 rollout 加速最高 50%
分布感知投机解码（DAS）框架针对强化学习后训练的长尾瓶颈，在不改变模型输出的前提下将 rollout 阶段最高提速 50%。系统结合免训练的自适应后缀树草稿器与长度感知调度，利用历史轨迹动态分配投机预算并平衡多 GPU 负载。DAS 在 DeepSeek-R1-Distill-Qwen-7B 和 Qwen3-8B 评估中，分别减少超 50% 和约 25% 的 rollout 时间。
Google DeepMindAI 评分4949 Decoupled DiLoCo：高韧性分布式 AI 训练的新前沿
Google DeepMind 提出分布式训练架构 Decoupled DiLoCo，通过异步计算孤岛实现低带宽、高容错的跨数据中心大语言模型训练。团队在跨美国 4 个区域、仅 2-5 Gbps 广域网带宽下成功预训练 12B 参数模型，速度比传统同步方法快 20 倍以上，并在 Gemma 4 测试中保持了同等基准性能。
Together AI BlogAI 评分4646 Parcae：利用稳定循环架构以更少参数实现更高性能
Parcae 是一种稳定的循环层模型架构，通过让激活值多次穿过相同网络层增加计算量，有效解决了循环模型训练不稳定的问题。实验显示，Parcae 相比以往循环模型将验证困惑度最高降低 6.3%，其 770M 模型仅用约一半参数便打平了同等数据训练的 1.3B Transformer 性能。此外，该研究首次建立了循环架构的 Scaling Laws，证明计算最优训练需同步增加循环次数与数据量。
Together AI Blog精选AI 评分6767 Together AI 扩展微调服务，新增工具调用、推理及视觉模型微调支持
Together AI 宣布对其微调服务进行重大扩展，原生支持工具调用、链式推理思考轨迹以及视觉语言模型（VLM）微调。底层训练技术栈通过集成 SonicMoE 算子与定制 CUDA 内核，将 100B+ 参数模型的训练吞吐量最高提升至 6 倍，并支持最高 100GB 的数据集以及运行前的成本与耗时预估。
推荐理由：原文给出了工具调用、推理链与视觉微调的具体参数配置与吞吐量实测数据，读者可以据此评估复杂智能体工作流的后训练可行性与成本。
Berkeley AI ResearchAI 评分4646 大规模识别大语言模型中的相互作用
研究人员提出 SPEX 与 ProxySPEX 算法，用于在大规模大语言模型中高效识别特征、数据与组件间的关键相互作用。算法利用稀疏性与低阶性将交互搜索重构为稀疏恢复问题，其中 ProxySPEX 进一步结合层次特性，以少约 10 倍的消融次数达到 SPEX 的性能。该框架适用于特征归因、数据归因与机理可解释性分析，解决了交互数量随规模指数级增长的计算难题。
Together AI BlogAI 评分5555 Together AI 研究揭示语音模型在街道识别中的缺陷并提出跨语言合成数据解法
Together AI 研究发现主流语音识别模型在转录多语言背景发音的街道名称时平均错误率达 39%，非英语母语者的识别准确率比英语母语者低 18%。为此团队提出基于 XTTS 的跨语言风格迁移技术生成口音合成数据，仅使用不到 1,000 条训练样本就使 Whisper-Base 等模型的识别相对准确率提升最高 60%。
Together AI Blog精选AI 评分6666 Together AI 探究大模型在无明确提示词时的固有生成行为
Together AI 研究发现，在移除对话模板和具体指令的近无约束生成条件下，各大语言模型会展现出截然不同的知识先验与语义偏好。其中 GPT-OSS 输出中编程与数学占比超 50% 且深度更高，Llama 偏向文学叙事，DeepSeek 产生宗教内容比例较高，Qwen 则频繁生成考试选择题。研究还指出无约束下的退化文本具有明显结构特征，甚至暴露出潜在的个人隐私泄露风险。
推荐理由：研究通过移除提示词约束揭示了各模型家族固有的主题偏好与退化模式，为模型行为审计和隐私泄漏检测提供了新视角。
Ahead of AIAI 评分3838 LLM 研究论文：2025 年清单（7 月至 12 月）
Ahead of AI 整理并发布了 2025 年 7 月至 12 月的大语言模型（LLM）研究论文清单，涵盖模型架构、高效训练与多模态等领域。清单重点归纳了推理模型的训练与推理时策略、推理时缩放（Inference-Time Scaling）、强化学习、基于扩散的语言模型及预训练数据集等前沿方向。
Berkeley AI ResearchAI 评分4242 无需 TD 学习的强化学习
研究人员提出一种基于分治法（divide and conquer）的离线策略强化学习方法，无需依赖传统时序差分（TD）学习即可扩展至长视距任务。该方法将轨迹划分为等长片段并通过组合局部价值进行更新，理论上能将 Bellman 递归次数降至对数级，从根本上缓解了误差累积难题。团队已将该机制应用于目标条件强化学习（goal-conditioned RL），成功实现了向复杂任务的有效扩展。
Berkeley AI ResearchAI 评分4646 word2vec 究竟学到了什么？
研究人员提出了针对 word2vec 学习过程的定量预测理论，证明该学习过程可简化为无权最小二乘矩阵分解，最终表征等价于对目标统计矩阵进行 PCA。在极小初始化条件下，模型通过离散步进逐次递增嵌入矩阵的秩，每一步都沿新的正交方向习得一个可解释的主题概念，直至模型容量饱和。
IEEE SpectrumAI 评分5656 吴恩达谈以数据为中心的 AI：从追求超大规模转向小数据工程
吴恩达在接受专访时主张 AI 发展应从追求超大规模模型转向以数据为中心（Data-centric AI），通过系统化工程手段提升数据质量来解决实际应用问题。他指出神经网络架构在很多实际场景中已相对成熟，工业与医疗等垂直领域缺乏海量数据，往往依靠 50 个高质量样本和一致的标注即可训练出实用模型。