跳到正文
热点事件持续更新

Together AI推出持续编译系统TKCC与多态推理方案

2 篇报道1 个报道来源19 小时前更新

先了解这件事

AI 综述

2026年11月4日,Together AI发布两项AI推理优化技术。其一是面向AI推理的持续编译系统Together Compiler(TKCC),该系统利用高吞吐AI智能体针对动态工作负载自动优化推理,其实验吞吐量较基线系统提升了252倍。同日,Together AI还提出了面向开源模型的多态推理(Polymorphic Inference)方案。该方案结合AI智能体自我优化与持续编译技术实现推理自调优,摒弃了传统的静态配置与单一megakernel模式,旨在应对模型架构多样、负载多变和硬件迭代等挑战,可在新模型部署或硬件迁移时动态自适应,快速逼近理想基线与硬件极限。

AI 根据报道生成 · 37 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. Together AI Blog
    Together Compiler:面向 AI 推理的持续编译系统

    Together AI 推出持续编译系统 Together Compiler(TKCC),利用高吞吐 AI 智能体针对动态工作负载自动优化推理,其实验吞吐量较基线系统提升 252x。

  2. Together AI Blog
    Together AI 提出多态推理(Polymorphic Inference):面向开源模型的自调优推理

    Together AI 提出面向开源模型的多态推理(Polymorphic Inference),借助 AI 智能体自我优化与 Continuous Compilation 持续编译实现推理自调优。该方案告别传统静态配置与单一 megakernel,以应对模型架构多样、负载多变和硬件迭代。系统可在新模型部署或硬件迁移时动态自适应,快速逼近理想基线与硬件极限。

本事件热度走势

当前热度 6·可比范围峰值 6(11月5日 00:00)·近 24 小时可比范围变化 –

0246811月5日00:0011月5日01:0011月5日01:0011月5日02:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。