Kimi开放平台“上下文缓存”技术开启公测
来源：环球网 2024-07-02 14:24:57
7月2日消息，Kimi 开放平台日前宣布其“上下文缓存”技术进入公测阶段。该技术可为开发者大幅降低长文本旗舰大模型的使用成本，最高可达90%，并显著提升模型的响应速度。
据了解，上下文缓存技术作为一种高效的数据管理技术，其核心优势在于能够预先存储并快速提供那些可能被频繁请求的大量数据或信息。当用户再次请求相同信息时，系统无需重新计算或从原始数据源中检索，而是直接从缓存中快速提取，从而显著节省时间和资源。
Kimi 开放平台方面以某硬件产品说明书为例介绍了该技术的应用场景。对于一份长达9万字的说明书，在传统模式下，售前支持人员需要在10分钟内对产品的功能/使用方式进行40次问答，问题大概100个字，回答在120字以内。
然而，在接入上下文缓存技术后，9万字的文档只需创建并存储一次缓存，40次问答将仅收取将只收取问题的100字+回答的120字的费用，预计节省费用达92.27%。
业内人士称，在当前大模型行业日益注重效率和成本控制的背景下，Kimi的这一创新不仅为开发者提供了更经济、更高效的解决方案，也有望进一步推动大模型行业的应用和发展。
关键词：
图片版权归原作者所有，如有侵权请联系我们，我们立刻删除。
新化月报网报料热线：886 2395@qq.com
新化月报网报料热线：886 2395@qq.com
最近更新
- Kimi开放平台“上下文缓存”技术开启公测2024-07-02
- 逾千人参加五粮液股东大会 持续巩固“稳”的基调2024-07-02
- 平安消费金融受邀参与浦东新区新时代文明实践中心“学习书架”党纪主题教育活动2024-07-02
- 7月起施行，这些金融业新规将影响你我生活2024-07-02
- 波音公司47亿美元全股票交易收购Spirit Aero，面临多重挑战2024-07-02
- 超四千亿资金涌入股票ETF，成震荡市场“稳定锚”2024-07-02
- 茅台集团最新发声！有信心穿越本轮周期2024-07-02
- 助力百千万工程 · 健康百千万家庭 会城口腔医院开业典礼 暨四会市无牙颌重建公益工程启动仪式2024-07-02
- 当风轻借力,一举入高空丨朝阳凯文学子“全国航天创新大赛”夺冠记2024-07-01
- NSF中国获ANAB授权 成为提供NSF/ANSI 455 和173认证服务的关键地点2024-07-01
- 千人千面：润致玻尿酸让美丽无需掩饰2024-07-01
- 供应链建设行业领先 和府捞面确保每一口都是安心美味2024-07-01
- 普融花：元宇宙赋能激发消费新场景2024-07-01
- 瑞浦兰钧 587Ah 和 625Ah 电芯首发：技术创新助力储能发展2024-07-01
- 精准影像，立体呈现 | 海信4K 3D内窥显示器革新医疗显示体验2024-07-01
- 破解私募股权退出难题 机构看好股票实物分配试点2024-06-28
- 中金：我国物流地产基本面具备较强支撑，有望率先走出下行周期2024-06-28
- 北京证监局启动私募基金监管试点：首批20家机构管理规模大、投资者多2024-06-28
- 卡尔动力宣布完成6亿元A轮融资，加速L4级自动驾驶编队技术商业化进程2024-06-28
- 第七届中国明信片文化创意设计大赛圆满结束2024-06-28
- 恒易贷：元宇宙时代有哪些机遇2024-06-28
- 闻“汛”而动丨风雨中的海信力量2024-06-28
- 2024世界交通运输大会在青开幕 海信智慧交通重磅亮相2024-06-27
- 上好金融“必修课”，筑牢反诈“防火墙” 马上消费开展金融知识进校园活动2024-06-27
- 按摩椅十大品牌：奥佳华/西屋/荣泰上榜，精选按摩椅选购指南2024-06-27
- 上海招材猫建材有限公司：百卡森高端系统门窗推动行业新潮流2024-06-27
- 微软智能办公工具OfficePLUS让创作更轻松！PPT/Word/Excel三端齐享！2024-06-27
- 华为杨超斌提出“以智赋网”，让通信网络迈向高阶自治2024-06-27
- 强者不凡，共创、共享、共赢——爽提校园外卖全国招募合伙人挑战年入百万！2024-06-26
- 上汽通用汽车RoboTest无人化整车智能试验平台进入成熟化应用2024-06-26
