中国工程院院士黄殿中：AI智能体发展迎来历史性转折，成都可为网络安全产业提供示范

“2026年，是AI智能体发展的历史性转折之年。”9月15日，在2026年国家网络安全宣传周成都系列活动开幕式暨2026 CCS主论坛上，中国工程院院士、中国信息安全测评中心专家委员会副主任黄殿中发表主旨演讲，并接受包括《每日经济新闻》在内的媒体采访。他表示，智能体正加快进入真实生产环境，安全边界也从模型输出延伸至数据、权限、行为和运行结果。

在黄殿中看来，面对传统训练方式的瓶颈，行业需要构建高保真仿真场景和标准化安全测评体系；成都拥有优质的网安产业生态、高端人才生态和创新政策生态，有条件为全国网络安全产业范式升级提供成都经验、打造行业标杆。

图片来源：主办方提供

从“会说”到“会做”，安全边界进入执行层

黄殿中表示，网络、网络安全、数据和人工智能构成了一组相互支撑的产业基础：“网络是流通底座，网络安全是底座的底座，数据是价值根基，AI是跃升引擎。”随着AI进入更多行业，安全能力能否同步跟上，将影响新技术从试验走向规模应用。

变化首先来自智能体的行动能力。生成式AI主要生成内容，智能体则能感知环境、拆解任务，并连接业务系统完成操作。黄殿中将其概括为AI从“会说”“会想”走向“会做”。一次错误判断也可能借助工具调用和系统权限，进入真实业务流程。

这也改变了网络安全产业的产品边界。智能体进入生产环境后，行业需要回答它能访问什么数据、可以调用哪些工具、哪些操作必须授权，以及能否追溯和撤销错误操作等问题。安全能力因此需要前移至研发和训练环节。

黄殿中尤其关注现有训练方式的局限：真人示教能够积累的异常样本有限，真实生产系统也无法允许智能体在高风险、极端场景下反复试错。训练数据和验证环境不足，正在成为智能体深入产业的现实约束。

基于此，他提出建设“高保真仿真场景智能体工厂＋全维度标准化安全测评体系”：在虚拟环境中复刻业务和风险条件，让智能体反复训练、验证和修正，并评价其权限控制、任务执行和异常处置能力。

“让所有风险试错留在仿真场，让所有安全可靠落地真实场。”这套体系的产业价值在于，把真实试错转移至可控、可重复的环境，并为产品进入生产系统建立检验依据。

“智能体发展的核心关键，不在于‘能不能做事’，而在于‘能不能守边界、可控可管、向善而行’。”在黄殿中看来，“AI向善”需要落实为可训练、可测评、可追溯的产品能力，约束和纠错机制也要随行动能力同步升级。

从仿真训练到产业落地，成都有望形成行业示范

训练和测评体系能否落地，取决于城市能否同时提供技术、需求和人才。黄殿中将成都称为“中国西部网络安全和智能产业发展的高地”，认为成都既有产业优势，也有人才集聚基础，“在许多方面能够走在全国前面”。

仿真智能体工厂并不只是一个技术平台。它需要把真实行业的业务流程、异常工况和安全需求转化为训练场景，也需要产学研协同，把研究方法转化为训练工具、测评标准与产品。成都在网络安全、电子信息和人工智能等领域的积累，为技术与需求建立联系提供了条件。

黄殿中进一步表示，成都拥有全国领先的网络安全产业集群，也是极客创新高地，产业底蕴深厚、创新资源集聚、政企生态完善，“具备率先试点、率先落地、率先成型、率先示范的条件”。

人才决定这种能力能否持续。黄殿中把成都的人才优势概括为“需求拉动”和“技术推动”：产业需求提供真实问题和实践空间，技术积累拓宽人才的成长空间，两者共同构成成都人才供给的“韧性”。

作为四川大学校友，黄殿中把成都形容为“肥沃的土壤”。这片“沃土”的价值不仅在于汇聚人才，更在于让人才、技术、场景和需求持续形成连接：企业从场景中获得产品方向，人才在真实问题中成长，研究成果进入训练、测评和应用环节。

“我们完全可以依托成都优质的网安产业生态、高端人才生态、创新政策生态，打造AI安全智能体仿真训练与标准化测评示范基地，形成可复制、可推广、可升级的国家级创新样板，为全国AI安全产业范式升级提供成都经验、贡献行业标杆。”黄殿中表示。