Anthropic 公测 Message Threads 降低首 token 延迟
热点事件持续更新
Anthropic 公测 Message Threads 降低首 token 延迟
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Anthropic 在 Claude 平台公测 Message Threads:API 请求不再重发完整对话历史,只传输上一条消息之后的变化。Anthropic 称,在 50 万至 100 万 token 的请求中,首 token 时间降低约 35%,编码智能体、计算机使用智能体和处理大量文档或图像的工作流受益最明显。 该功能在 Claude 平台及 AWS、Microsoft Foundry、Google Cloud 上可用。线程在请求之间以加密形式留在内存中,闲置五分钟后过期;由于 Claude 仍读取完整对话历史,token 用量不变。
AI 根据报道生成 · 59 分钟前更新
最新进展11月3日 20:35
Anthropic 在 Claude 平台公测 Message Threads,长对话首 token 时间降低约 35%报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- The DecoderAnthropic 在 Claude 平台公测 Message Threads,长对话首 token 时间降低约 35%
Anthropic 在 Claude 平台推出 Message Threads 公测,API 请求不再重发完整对话历史,只传输上一条消息之后的变化。据 Anthropic 数据,在 50 万至 100 万 token 的请求中,首 token 时间降低约 35%,编码智能体、计算机使用智能体和处理大量文档或图像的工作流受益最明显。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。