中国信息通信研究院人工智能研究所安全治理部副主任呼娜英：GEO的可信健康发展需要技术与制度双轮驱动

每经北京4月16日电（记者可杨）4月16日下午，由中国新闻技术工作者联合会、中国经济传媒协会联合主办，每日经济新闻、每经科技、每经AI智库与中国新闻技术工作者联合会AIGC与数智传播专委会共同发起的“共筑可信生态 共创智能未来——AI内容生态与负责任GEO治理研讨会”在京举行。

会上，中国信息通信研究院人工智能研究所安全治理部副主任呼娜英发表主题演讲时表示，GEO（生成式引擎优化）时代，数据污染已不再是简单的训练数据质量问题，而是更深层次的信源治理问题。

图片来源：每经记者 韩阳 摄

呼娜英表示，过去我们谈电力、算力，今天则要关注智力。如果基础数据被污染，生成式AI（人工智能）输出的内容就可能偏离事实，进而污染整个新质生产力发展的土壤。

面对GEO滥用带来的挑战，呼娜英指出，至少有五方力量需要共同承担责任，包括品牌企业、服务商、内容平台、生成式AI厂商以及终端用户。只有各方协同，才能构建起长效的内容认知壁垒，实现品牌价值的复利增长，驱动全链条的可信发展。

具体而言，内容平台需加强对恶意数据污染行为的发现与追溯能力；生成式AI厂商则应主动构建安全防护机制，建立对生成式数据的可信评估体系；品牌方和服务商则应采用正向优化手段。

面向未来，呼娜英强调，GEO的可信健康发展需要技术与制度双轮驱动。一方面，要加快建立数据源分类标准、优化要求及评估技术体系；另一方面，建议探索备案制度、名单制度等管理手段，并构建恶意数据污染的扫描、发现与追溯机制。

封面图片来源：每经记者 韩阳 摄