Together AI Blog·· 19 小时前AI 评分50
Together Compiler：面向 AI 推理的持续编译系统
Together Compiler: Continual Compilation for AI inference
AI 导读
Together AI 推出持续编译系统 Together Compiler（TKCC），利用高吞吐 AI 智能体针对动态工作负载自动优化推理，其实验吞吐量较基线系统提升 252x。
来源：Together AI Blog · together.ai