来源: 新华三 | 原文链接
近日,2026中国算力大会·京津冀智算与先进制造产需论坛在河北廊坊举办。紫光股份旗下新华三集团在论坛上分享面向智能体时代的AI基础设施建设思考,解读当前算力发展新趋势,介绍灵犀智算解决方案的核心技术能力,为训推一体、行业智能体规模化落地提供全栈技术实施路径。
AI基础设施迈入智能体新周期
新华三指出,AI基础设施建设正迎来关键转型节点。行业已从单机深度学习、大规模大模型训练阶段,迈入以推理与智能体应用为核心的全新发展周期。推理算力需求增速已超训练算力,未来推理算力消耗占比将持续提升,算力建设思路需从聚焦大模型训练,转向兼顾推理业务与智能体稳定高效运行。
智能体带来新型基础设施挑战
智能体作为可自主作业的数字员工,带来动态波动的业务负载、多智能体协同低时延要求、KV-Cache高效调度、细粒度安全管控与全链路行为溯源等新挑战。传统面向确定性训练任务设计的算力架构,难以应对智能体业务不可预测的资源波动,基础设施亟需从静态资源供给升级为支撑不确定性业务的弹性底座。
灵犀智算:三大支柱构建智算新范式
硬件基座重构
- 为训练、推理两类差异化负载统一设计一套基础设施;
- 构建统一算力资源池,支持训推任务自动调度;
- 一张网络承载大带宽训练流量与低延迟推理流量,互不干扰;
- 一套存储同时满足训练大文件吞吐与推理KV-Cache高速访问,避免重复建设。
软件平台赋能
- 智能化资源调度实现“白天推理、夜间训练”,24小时资源零闲置;
- 提供模型微调、仿真评估、上线部署一站式服务,内置推理加速优化;
- 搭载全链路安全治理能力,实时拦截越权操作,全程记录智能体行为,支持事前管控与实时防护。
全栈能力协同
- 千卡级训练集群线性扩展比达91%,Checkpoint读写GPU等待<10秒;
- 推理场景单卡吞吐达643.4 tokens/s,显著提升并发承载能力;
- 同等GPU规模可支撑更多行业客户业务。
落地实践与生态共建
方案已支撑多项京津冀标杆项目:在北京承建数据基础制度先行区智算中心、数字经济算力中心,构建多级公共算力底座;为海河脑机交互实验室及北大京津冀生物医学前沿创新中心搭建国产AI集群;复制“图灵小镇”模式,联合地方政府打造集算力建设、产业运营、生态培育于一体的算力平台。
未来,新华三将依托“算力×联接”核心理念,联合产业链伙伴完善AI算力生态,推动AI技术落地,助力京津冀区域培育新质生产力。