来源: 新华三 | 原文链接

随着智能体应用加速落地，大模型推理对KV Cache的高效存储与复用提出了更高要求，传统存储架构正面临新的性能挑战。在2026开放数据中心大会存储分论坛上，紫光股份旗下新华三集团带来《智能体时代存储领域的新机遇与挑战》主题演讲，聚焦智能体时代KV Cache带来的存储架构变化，深入分析其在性能、复用与成本方面的核心挑战，并分享新华三面向AI原生场景的KV Cache（键值缓存）存储技术创新与落地实践。

KV Cache：Token生产成本的决定性因素

智能体与大语言模型技术迭代双轮驱动，持续激化KV Cache的核心矛盾——HBM的高度临时性与推理负载高效复用之间的冲突。新华三集团存储产品线首席架构师陈钊指出：KV Cache已成为Token生产成本的决定性因素。

模型厂商通过稀疏化、压缩等技术缩小KV Cache尺寸，短期内与更长上下文形成对冲，但远不足以满足智能体应用的高并发需求；存储厂商则通过多级存储构建KV Cache缓存，减少重复计算，成为降本关键路径。其中，外部存储相较本地存储具备容量、性能、数据三个维度的池化共享能力，已成为大规模智能体推理应用中KV Cache卸载方案的必然选择。

重构IO范式：CXL+NVMeoF多层KV Cache架构

GPU算力与存储系统IO性能之间存在巨大鸿沟，叠加稀疏注意力机制对数据存取的复杂性，使KV Cache加载时间如何匹配算力成为核心难题。新华三通过CXL+NVMeoF构建多层KV Cache，应对稀疏、前缀、短期及长期复用需求；同时依托原生KV存储软件栈设计，减少传统存储“软件税”，实现高并发、可共享的KV Cache存储池。

硬件：两层定制化架构

  • CXL高性能可共享内存池：通过集中式元数据管控与轻量化客户端，支持亚微秒级（500ns）Load/Store，实现随机稀疏精准读取；
  • NVMeoF KV全闪存池：通过DPU直通构建高并发IO通道，提供亚毫秒级（500μs）KV Put/Get。

软件：KV原生分布式存储系统

新华三CMS存储软件系统提供KV Cache原生的分布式存储能力，兼容通用服务器及多种DPU形态，以标准NVMeoF KV协议为纽带，构建专用扁平化精简IO栈，无需文件系统开销；以命名空间为配置单位，支持差异化打散分布策略与空间索引策略；通过弹性硬盘空间池，实现底层存储空间统一抽象，为不同命名空间弹性供应存储资源。

随着智能体应用加速落地，KV Cache的高效存储将成为大模型推理降本增效的关键环节。陈钊表示，新华三将持续深耕AI原生存储技术创新，携手产业伙伴共建智算存储底座，为AI基础设施的持续升级提供有力支撑。