来源: 新华三 | 原文链接

近日，由中国网络空间安全学会主办、中国科学技术大学承办的首届中国网络空间安全大会在安徽合肥隆重开幕。作为我国网络空间安全领域集学术引领、产业协同、人才培育于一体的国家级高端交流平台，本次大会汇聚了来自学术界、产业界与监管机构的众多专家学者。

以AI筑盾，护智能未来

紫光股份旗下新华三集团受邀出席“人工智能安全与应用治理”分论坛并发表主题报告。新华三信息安全技术有限公司副总裁、总工程师郭天奇以《以AI筑盾，护智能未来》为题，分享了AI时代的安全风险研判、关键技术实践与治理思考。

风险叠加：新旧威胁共振构成AI时代的安全底色

当前，伴随AI技术快速发展，Token已成为核心价值资产，传统互联网基础设施正在向高效支持大模型计算与推理的新型AI原生基础设施转型。但在AI算力基建迭代过程中，一方面引入了复杂的供应链安全隐患，另一方面也将激发存量传统安全风险。新旧安全风险交织共振，共同塑造出AI时代全新的安全态势，也对AI安全防护体系建设提出了更为复杂、迫切的现实要求。

郭天奇指出：“AI带来的不是风险转移，而是风险叠加，安全战场正在沿‘代码—内容—行为’三个维度层层铺开。”

  • 传统安全面对的是确定性威胁模型，依靠特征规则即可实现精确匹配与防御；

  • 生成式AI安全面对的是概率性威胁模型，提示词注入与数据投毒等攻击手段使传统规则匹配失灵；

  • 智能体安全则对应非确定性意图威胁模型，需穿透行为识别真实意图。

与此同时，AI不断拓宽网络攻击的作用边界，对传统安全防御体系形成降维压制。攻击已从代码层延伸至认知域（如深度伪造、黑产SEO）乃至物理域（如设备劫持）。智能体行为偏差会大幅放大攻击影响范围；AI模型风险亦从“输出错误内容”，演变为直接“执行危险行为”——其自主能力每提升一档，安全防护边界就必须向外拓展至真实物理世界。

共生演化：新华三全栈安全防护体系

基于对AI时代风险演变规律的洞察，新华三提出“AI与安全共生演化”方法论，并确立三条主线：

  • 以AI强安全，驱动安全运营从“感知”转向“预判”；

  • 以安全护AI，将安全嵌入AI全生命周期；

  • 以AI对抗AI，在实战中淬炼人机协同能力。

在架构设计层面，新华三AI安全全栈防护体系纵向贯通算力安全、模型安全与应用安全三大层级；横向以身份权限为核心基石，提炼出看见身份、管住权限、检出威胁、溯清责任的智能体安全四步法，权限管理由传统RBAC（基于角色的访问控制）演进为面向任务的TBAC（基于任务的访问控制）。

在技术实现层面，新一代AI-DPI引擎采用三层递进式检测架构：

  • 恶意文件检测：融合LightGBM高吞吐初筛 + GNN低置信度样本复判；

  • 加密流量识别：依托CNN-LSTM协同推理，全程不解密完成识别；

  • 提示词注入检测：基于知识蒸馏打造轻量化语义引擎LiteBERT。

在智能体侧，体系涵盖内容合规校验、Agent Skill安全审计、全链路访问治理、A2A调用链路管控与意图偏离检测，最终收敛为Agent PDP可信决策核心，构建五大安全域，形成“安全准入—运行控制—反馈进化”三重防御闭环。

迈向结构化韧性安全

面向AI安全的可持续建设，当前工程实践仍面临六大开放性难题，包括评测可复现性、意图语义判定、概率性威胁防护、多智能体共谋对抗、防御组件自身攻击面、智能体责任与取证制度等。

新华三提出安全防御范式演进路径：从面向“已知的已知”的可信验证，过渡到面向“已知的未知”的动态对抗，最终构建应对“未知的未知”的韧性安全体系。安全建设不再追求绝对零攻破，重在保障系统遭遇突破后，能够实现业务存续、风险止损与快速恢复。

从经验防御迈向结构化韧性安全，不仅是技术迭代升级，更是安全理念的深度重构。这离不开产业落地实践、学术前沿攻关与监管治理体系的多方协同聚力。新华三将持续深耕AI安全技术研发，诚邀产学研各界同心聚力，共筑AI安全治理坚实屏障。