AWS 发布 Bedrock 上 OpenAI 模型提示缓存模式

AWS 机器学习博客作者 Claudio Mazzoni 发布教程，介绍在 Amazon Bedrock 上使用 OpenAI 模型时的提示词缓存配置模式，覆盖静态前缀显式缓存、随对话增长的隐式缓存、会话中途新增工具、子智能体共享前缀和缓存键管理。 据该教程，可复用前缀需达到 1,024 个 token 才符合条件；缓存前缀最短存活 30 分钟，成功复用会刷新，也可能保留更久；复用已有缓存内容要求同一模型、同一 AWS 账户和同一区域，且存在匹配前缀；缓存写入按正常输入价格的 1.25 倍计费。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。