专访 TypeSafe AI 创始人 Diogo Almeida:面向生产软件的 System 1 模型与 Jev
TypeSafe AI 创始人兼 InstructGPT 共同作者 Diogo Almeida 在访谈中详述了 Jev 模型的设计理念,主张打造直接面向软件消费的 System 1 可编程大模型,而非面向人机对话的助手。
推荐理由:原文对比了面向人机对话与面向软件调用的训练目标差异,为评估模型在工程链路中的可靠性提供了新视角。
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
TypeSafe AI 创始人兼 InstructGPT 共同作者 Diogo Almeida 在访谈中详述了 Jev 模型的设计理念,主张打造直接面向软件消费的 System 1 可编程大模型,而非面向人机对话的助手。
推荐理由:原文对比了面向人机对话与面向软件调用的训练目标差异,为评估模型在工程链路中的可靠性提供了新视角。
Google DeepMind 推出 Gemini 3.8 Live 与 Gemini 3.8 Live Extended Thinking 两款实时语音对话模型,主打近实时推理与语音智能体任务执行。
推荐理由:官方给出了两款实时对话模型在语音基准上的评测成绩与并行推理机制,有助于评估实时语音智能体的工程落地成本。
OpenAI 发布面向企业场景的模型 GPT-6 Astra,定位为其在商业领域能力最强的模型。该模型具备进阶推理能力与计算机使用(computer use)能力,并提升了写作与设计判断表现。
推荐理由:原文明确了该模型面向企业场景并具备计算机使用能力,读者可据此了解其在复杂业务协作与工作流程中的能力定位。
OpenAI 宣布分享一份由 AI 生成的纳维-斯托克斯千禧年大奖难题解法。该成果同时包含完整的书面说明文档,以及在 Lean 中实现的形式化数学证明。
推荐理由:OpenAI 公开了包含 Lean 形式化证明的解法,读者可以据此检验 AI 处理重大数学难题时的完整推理路径与验证方式。
Google DeepMind 正式推出 Gemini 3.8 Flash 及其网络安全专用变体 Gemini 3.8 Flash Cyber。
推荐理由:该版本在保持低调用成本的同时强化了多步推理与长程编码能力,读者可据此评估其在自动化软件工程与企业安全防护中的落地价值。
Google DeepMind 正式推出 Gemini 3.7 Flash,主打编程与智能体任务,首发调用价格较 3.6 Flash 降至每 100 万输入 token 0.75 美元、输出 3.75 美元。
推荐理由:该版本在编程与复杂工作流基准上大幅超过前代,并将调用价格降低一半,有助于开发者低成本扩展智能体应用。
Together AI 联合月之暗面推出 2.8T 参数开源模型 Kimi K3 的接入支持并发布完整开发指南,该模型原生支持 1M 上下文窗口与多模态视觉输入。
推荐理由:文章系统梳理了该开源模型的底层架构与接口参数,开发者可据此掌握长上下文缓存与动态工具调用的工程实现。
Together AI 宣布与月之暗面(Moonshot AI)达成战略合作,成为其开源模型发布平台并原生提供 Kimi 系列模型的托管推理与后训练支持。平台首发接入 2.8T 参数的稀疏 MoE 模型 Kimi K3,支持 Serverless、预留吞吐量和独立实例三种部署形态,并提供零数据保留保障与 99% 可用性 SLA。
推荐理由:该合作让开发者能在合规的云端基础设施上即时调用月之暗面的大参数开源模型,并直接衔接微调训练与生产级推理服务。
Thinking Machines Lab 发布多模态 MoE 模型 Inkling,Together AI 同步在 Serverless 平台提供其推理服务。
推荐理由:新模型通过结合原生多模态输入与可调推理强度,让开发者能在统一接口下根据具体任务平衡延迟与算力开销。
Together AI 作为首选云合作伙伴,详解了为 MiniMax-M3 模型构建生产级高效推理系统的工程实践。团队针对 MiniMax 稀疏注意力重构了算子并整合进 PagedAttention,使预填充阶段加速超 9 倍、解码加速超 15 倍;同时借助 Rust 模型网关在 CPU 端预处理音视频,在典型智能体场景下将推理性能提升了 81% 至 125%。
推荐理由:文章拆解了稀疏注意力的算子重排与网关层多模态预处理方案,对长上下文大模型的生产级部署具有直接的工程参考价值。
Google DeepMind 在《Nature》发表最新研究,推出基于 Gemini 的多智能体 AI 系统 Co-Scientist,用于在生命科学等领域自主生成、辩论和演化科学假设。
推荐理由:该研究展示了多智能体辩论与演化机制在科研假设生成中的可行性,为大模型辅助复杂前沿科学发现提供了落地架构。
Together AI 结合在 NVIDIA HGX B200 上的早期部署实测指出,DeepSeek-V4 的 1M token 上下文核心在于通过 token 轴压缩解决推理系统压力。
推荐理由:文章从底层缓存管理拆解了 DeepSeek-V4 的混合注意力设计,为大模型长上下文推理系统的工程落地提供了具体的调优参考。
Together AI 宣布在其云平台上线 DeepSeek-V4 Pro,无服务器推理支持 512K tokens 上下文,专属基础设施支持完整 1M 上下文。
推荐理由:原文给出了超大参数混合专家模型的上下文分级部署与缓存计费细节,为长上下文长链条任务提供了工程选型参考。
Google DeepMind 推出具身推理模型 Gemini Robotics-ER 1.6,大幅增强了空间定位、多视角理解与任务成功检测能力。该模型可原生调用搜索和 VLA 等工具,并新增结合代码执行的智能体视觉以高精度读取各类工业仪表。目前该模型已通过 Gemini API 和 Google AI Studio 向开发者开放。
推荐理由:新模型结合视觉推理与代码执行实现了工业仪表读取,为机器人多视角任务规划和成功判定提供了实用参考。
Together AI 宣布对其微调服务进行重大扩展,原生支持工具调用、链式推理思考轨迹以及视觉语言模型(VLM)微调。底层训练技术栈通过集成 SonicMoE 算子与定制 CUDA 内核,将 100B+ 参数模型的训练吞吐量最高提升至 6 倍,并支持最高 100GB 的数据集以及运行前的成本与耗时预估。
推荐理由:原文给出了工具调用、推理链与视觉微调的具体参数配置与吞吐量实测数据,读者可以据此评估复杂智能体工作流的后训练可行性与成本。
Together AI 联合卡内基梅隆大学、普林斯顿大学与 Cartesia AI 推出状态空间模型 Mamba-3,核心转向以推理效率为主要设计目标。新架构引入更具表达力的指数-梯形离散化循环、基于 RoPE 的复数状态跟踪以及多输入多输出(MIMO)机制,同时移除了外部短卷积。
推荐理由:该架构从侧重训练加速转向主推推理效率,通过复数状态与多输入多输出机制在不增加解码延迟的前提下提升模型表现。
Together AI 宣布在其 Dedicated Inference 平台上线 NVIDIA Nemotron 3 Super,支持开发者免去 GPU 运维直接部署该 120B 开源权重模型。
推荐理由:平台为长上下文混合架构模型提供了单卡部署与托管算力,工程团队无需自建集群即可直接落地智能体推理。
Together AI 在首届 AI Native Conf 上宣布了 7 项技术与产品更新,覆盖底层内核、强化学习训练及算法级推理优化三大方向。
推荐理由:原文完整梳理了算子到架构级的全栈技术落地方案,读者可以据此评估软硬件协同设计对大模型实时推理与智能体长上下文吞吐的具体收益。
Sebastian Raschka 梳理了 DeepSeek 从 V3 到 V3.2 的技术演进路径与训练细节。V3.2 在原有 MLA 架构基础上引入 DeepSeek 稀疏注意力(DSA),将注意力计算复杂度降至线性,并结合 DeepSeekMath V2 的自验证与自精炼机制提升推理能力。
推荐理由:文章拆解了 DSA 稀疏注意力与强化学习修正细节,为关注长文本效率和推理训练落地的工程团队提供了对照参考。
Sebastian Raschka 深入解析了 OpenAI 开放权重模型 gpt-oss 的底层架构,梳理了其自 GPT-2 演进至对标 Qwen3 的技术变化。
推荐理由:文章拆解了开源大模型从早期架构演进至今的关键细节,为理解现代模型结构设计与显存量化部署提供了技术参照。