新金融联盟理事长、中国银行原行长李礼辉：需要重构人工智能信任，建立防范AI操纵的防火墙

5月23日，在“第八届融城杯金融科技创新案例评选”启动仪式上，新金融联盟理事长、中国银行原行长李礼辉在主题发言中表示，“科技创新未必总是一个线性发展的过程，突破性的技术进步往往会改变技术竞争和经济发展的大势和格局。ChatGPT的面世推动人工智能发展史走到了奇点，带来了新的冲击和挑战。”

图片来源：主办方

李礼辉强调，金融科技创新有两大原则：一是方向正确，认真学习、贯彻落实党中央精神与金融监管机构的指导性、规范性文件十分重要；二是问题导向，金融科技创新是一个不断发现问题、解决问题、持续进步的过程，能够克服金融服务的难点、痛点的创新，一定是有价值的创新。

李礼辉指出，“ChatGPT的面世推动人工智能发展史走到了奇点，带来了新的冲击和挑战。”

一是在算力竞争上面临挑战。金融领域中，智能化的信用评估、客户筛选、风险定价、数字员工等方面无不需要数据和算力的支撑，算力很大程度上决定金融业的竞争力。算力的竞争，今后是科技巨头、资本巨头之间的竞争。

他表示，“我们需要探讨如何构建一个既能占领全球技术高地、又能避免垄断的国家级算力基础设施；如何构建一个资源可共享、商业可持续、监管可包容、金融机构和科技公司可受益的金融算力生态圈。”

二是AI合成与信任面临挑战。深度内容合成模糊了真实与虚假的边界，最新的深度合成算法可以对抗通用的技术性的甄别，人们开始担忧AI虚假与AI操纵对社会构成的威胁。

李礼辉认为，“低级别的AI虚假用于诈骗、诋毁个人及企业名誉；高级别的AI操纵有可能用于诋毁政治人物或政权实体操控负面舆情、制造政治恶意、激化社会矛盾。”

“我们迫切需要重构人工智能信任，在技术上、制度上有效对抗AI虚假，建立防范AI操纵的防火墙，维护数字经济时代的国家安全与金融业安全。”李礼辉强调。