上海金融与发展实验室主任曾刚：避免大模型幻觉，关键环节还需人机协作

2024年政府工作报告提出，要大力推进现代化产业体系建设，加快发展新质生产力。“人工智能+”被首次写入政府工作报告。

3月28日，由马上消费联合中国科学技术出版社、金融界共同举办的“大模型驱动下的金融新质生产力创新论坛暨全国首部《金融大模型》著作发布”活动在京举行。

图片来源：每经记者 张宏 摄

在主题分享环节，上海金融与发展实验室主任曾刚表示，传统业务发展模式受到越来越大的挑战，金融行业需要用大模型提升效率、适应客户需求变化和拓展新的服务空间及场景。会后，曾刚就“金融机构在AI应用中如何避免大模型幻觉”这一话题接受了《每日经济新闻》记者采访。

传统业务发展模式受到挑战，行业需要用大模型提升效率

在主题分享环节，上海金融与发展实验室主任曾刚表示，AI的发展会去除“知识中介”。生成式人工智能可以对一些没有原创性的“知识中介”进行替代，很多看似有门槛的专业技术会被淘汰，我们个人对自身的定位也会发生重大变化。

曾刚指出，从金融领域来看，行业面临着几大问题。一是资产获取难度越来越大，随着传统客户竞争越来越激烈，新客户发掘越来越难，信贷投放面临压力，传统服务模式可能无法触及客户；二是资产质量发生变化，一些过剩的行业正在经历调整，这个过程对风险防控的要求不断提升；三是息差的收窄，2023四季度商业银行净息差为1.69%，一些银行是低于这一水平的；四是资本补充有一定困境。

他强调，传统业务发展模式受到越来越大的挑战，行业需要用大模型去提升效率、适应客户需求变化、拓展新的服务空间及场景。

避免大模型幻觉，关键环节还需人机协作

会后，曾刚在接受《每日经济新闻》记者采访时表示，既要看到大模型的潜力，又要关注可能的风险。一方面，要依靠技术的不断改进纠正可能发生的大模型幻觉；另一方面，可以通过人机结合，将大模型圈定在助手层面。

上海金融与发展实验室主任 曾刚 图片来源：主办方

NBD：金融是一个严谨的领域，要在金融业务中进行AI应用，如何避免大模型幻觉？

曾刚：现在我们确实对风险审慎经营保持极大关注。首先，机构层面要审慎经营、避免（使用）过度的风险。在使用（AI的）过程中，对客户、消费者的保护要做到位，避免对客户利益的损伤。

金融大模型应用中，可能会在两个层面上产生风险。一是在交易过程中，如果使用大模型时出现大模型幻觉，可能会导致一些潜在的风险，对机构造成伤害；二是在业务过程中，对客户造成伤害。

因此要求金融机构，从研发到应用大模型的过程中，均高度关注可能出现的大模型幻觉。既要看到大模型的潜力，又要关注可能的风险。

一方面，依靠技术的不断改进，通过各种方法纠正可能的幻觉，但这需要一个过程；另一方面，在实践当中，实现人机结合，不要完全把任务抛给大模型。大模型可以替代一部分工作，但在关键环节还需人工进行校正、核验。通过人机结合，把大模型圈定在人的助手层面上，而不是让大模型完全替代人的工作。既能保证效率提高，同时也能避免大模型幻觉。

其次，监管层面上对科技应用也要提出规范要求，避免可能的风险。目前，科技监管越来越规范，通过监管层面引导机构完善治理架构、工作流程，以确保把发展过程中潜在的风险控制在可接受范围之内。

封面图片来源：视觉中国-VCG31N2008742366