跳到正文
热点事件观察中

Bedrock开放权重模型支持显式提示缓存

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

Amazon Bedrock现为开放权重模型新增显式提示词缓存,开发者可通过设置缓存断点,精确标记需要复用的提示词前缀;具体模型也可使用隐式模式,支持情况取决于模型和API。 开发者可通过Chat Completions API配置缓存,并从响应的缓存读写字段查看使用量。AWS称,缓存读取按低于标准输入的价格计费,前缀重复使用越多,潜在节省越大;但部分模型的缓存写入价格高于标准输入。模型可用区域及缓存支持情况也因模型和AWS区域而异,需查看对应模型卡。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AWS Machine Learning Blog精选
    Amazon Bedrock 为开放权重模型新增显式提示词缓存

    Amazon Bedrock 的开放权重模型现支持显式提示词缓存,可通过缓存断点精确标记需复用的提示词前缀。开发者可使用 Chat Completions API 配置隐式或显式模式,并从响应中的缓存读写字段观察使用量;文章还演示了 OpenCode 编码智能体会话中的隐式缓存应用。

本事件热度走势

可比范围当前
3
可比范围峰值
1011月17日 01:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。