DeepSeek-V4 Pro 正式上线 Together AI
Together AI 宣布在其云平台上线 DeepSeek-V4 Pro,无服务器推理支持 512K tokens 上下文,专属基础设施支持完整 1M 上下文。
推荐理由:原文给出了超大参数混合专家模型的上下文分级部署与缓存计费细节,为长上下文长链条任务提供了工程选型参考。
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
Together AI 宣布在其云平台上线 DeepSeek-V4 Pro,无服务器推理支持 512K tokens 上下文,专属基础设施支持完整 1M 上下文。
推荐理由:原文给出了超大参数混合专家模型的上下文分级部署与缓存计费细节,为长上下文长链条任务提供了工程选型参考。
Together AI 宣布在平台上线 NVIDIA Nemotron 3 Nano Omni 模型推理服务,提供全托管的专用推理支持。
推荐理由:材料解析了单一端到端模型如何统一跨模态上下文,有助于开发者评估其在降低智能体多模型串联成本上的实际价值。
Together AI 宣布开源科研协作平台 EinsteinArena,允许 AI 智能体通过 API、讨论版和实时排行榜协作与竞争解决开放科学难题。该平台配备自动化沙箱验证机制,多个智能体已在 11 维接触数问题上将下界提升至 604,并在 Erdős 最小重叠问题等 11 个数学任务中取得了新的已知最优结果。
推荐理由:展示了多智能体通过公开讨论与自动验证协同探索数学前沿的具体机制,为群体智能求解复杂开放问题提供了参考路径。
Together AI 宣布对其微调服务进行重大扩展,原生支持工具调用、链式推理思考轨迹以及视觉语言模型(VLM)微调。底层训练技术栈通过集成 SonicMoE 算子与定制 CUDA 内核,将 100B+ 参数模型的训练吞吐量最高提升至 6 倍,并支持最高 100GB 的数据集以及运行前的成本与耗时预估。
推荐理由:原文给出了工具调用、推理链与视觉微调的具体参数配置与吞吐量实测数据,读者可以据此评估复杂智能体工作流的后训练可行性与成本。
Together AI 推出实时语音智能体统一方案,将 STT、LLM 与 TTS 部署在同机房同一集群内,实现从用户发话结束到首个音频 token 低于 500 毫秒的端到端延迟。平台原生集成了 Cartesia 的 Sonic 系列与 Deepgram 的 Nova-3 等模型,提供单一 API 与计费界面,同时保留了对中间文本流的检查与修改能力以满足生产级业务逻辑需求。
推荐理由:原文展示了将语音识别、模型推理与语音合成同集群部署的架构方案,为解决语音对话多服务跳转延迟提供了工程参考。
Together AI 宣布在其 Dedicated Inference 平台上线 NVIDIA Nemotron 3 Super,支持开发者免去 GPU 运维直接部署该 120B 开源权重模型。
推荐理由:平台为长上下文混合架构模型提供了单卡部署与托管算力,工程团队无需自建集群即可直接落地智能体推理。
Together AI 在首届 AI Native Conf 上宣布了 7 项技术与产品更新,覆盖底层内核、强化学习训练及算法级推理优化三大方向。
推荐理由:原文完整梳理了算子到架构级的全栈技术落地方案,读者可以据此评估软硬件协同设计对大模型实时推理与智能体长上下文吞吐的具体收益。