跳到正文
热点事件持续更新

Anthropic 公测 Message Threads 降低首 token 延迟

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Anthropic 在 Claude 平台公测 Message Threads:API 请求不再重发完整对话历史,只传输上一条消息之后的变化。Anthropic 称,在 50 万至 100 万 token 的请求中,首 token 时间降低约 35%,编码智能体、计算机使用智能体和处理大量文档或图像的工作流受益最明显。 该功能在 Claude 平台及 AWS、Microsoft Foundry、Google Cloud 上可用。线程在请求之间以加密形式留在内存中,闲置五分钟后过期;由于 Claude 仍读取完整对话历史,token 用量不变。

AI 根据报道生成 · 59 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. The Decoder
    Anthropic 在 Claude 平台公测 Message Threads,长对话首 token 时间降低约 35%

    Anthropic 在 Claude 平台推出 Message Threads 公测,API 请求不再重发完整对话历史,只传输上一条消息之后的变化。据 Anthropic 数据,在 50 万至 100 万 token 的请求中,首 token 时间降低约 35%,编码智能体、计算机使用智能体和处理大量文档或图像的工作流受益最明显。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。