月之暗面 Kimi 开放平台:上下文缓存 Cache 存储费用降价 50%

[db:摘要]

月之暗面旗下Kimi 开放平台宣布,上下文缓存 Cache 存储费用降价50%。具体为:Cache 存储费用由10元/1M tokens/min,降低至5元/1M tokens/min。

微信截图_20240807110150.png

7月1日,Kimi 开放平台宣布,上下文缓存(Context Caching)开始公测。

上下文缓存(Context Caching)是一种高效的数据管理技术,它允许系统预先存储那些可能会被频繁请求的大量数据或信息。

这样,当您再次请求相同信息时,系统可以直接从缓存中快速提供,而无需重新计算或从原始数据源中检索,从而节省时间和资源。

上下文缓存(Context Caching)特别适合用于频繁请求,重复引用大量初始上下文的场景,可以显著降低长文本模型费用并提高效率!

本文由「aiuc」编辑整理,文章链接:https://www.aiuc.net/17930

该文观点仅代表作者本人,平台仅提供信息存储空间服务。

(0)
aiucaiuc
上一篇 2024年8月7日 上午10:53
下一篇 2024年8月7日

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注