The Decoder· Matthias Bastian·· 5 小时前AI 评分71
Anthropic 推出 Message Threads 公测版,长会话首 token 延迟降低约 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在 Claude 平台公测 Message Threads 功能,API 请求改为仅传输新增内容,在 50 万至 100 万 token 的长请求中将首 token 延迟降低约 35%。
来源:The Decoder · the-decoder.com