近日，网络上出现多款假冒“董宇辉推荐黑咖啡”的减脂产品，利用AI合成声音和视频制造虚假推荐，误导消费者。3月8日，董宇辉在直播中辟谣，称从未推荐过任何咖啡产品，并指出这种行为属于侵权和盗用。此前，古天乐、林峯、刘晓庆等公众人物也因AI换脸技术被用于虚假代言而发声，强调未授权相关平台使用其肖像或声音。
每经编辑 杜宇
据锦观新闻3月8日消息，近日，网络上出现多款号称“董宇辉推荐黑咖啡”的减脂咖啡产品，利用AI合成声音、视频和有设计的拼贴董宇辉直播录音等方式，制造出董宇辉推荐该款产品的假象诱骗消费者下单。
对此，董宇辉在直播时辟谣：自己从来没有推荐和代言过什么咖啡，利用自己的视频和声音进行营销属于侵权、盗用。
图片来源：直播视频截图
此前，古天乐、林峯，刘晓庆、雷军、靳东等公众人物也因AI换脸一事发声。
3月5日，演员古天乐、林峯所在的经纪公司发布声明，称有线上游戏平台利用AI技术，将自己的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。
经纪公司否认其与有关游戏平台合作，或代言、推广它们的业务，提醒各方人士不要轻信，以免受骗上当。对于盗用两人名义或肖像作虚假宣传或诈骗的行为，公司必然追究。
图片来源：锦观新闻
3月3日，演员刘晓庆回应遭AI换脸：“我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”
图片来源：刘晓庆微博
3月4日，全国人大代表、小米集团创始人雷军接受央视总台记者专访时表示，“AI技术发展以后，AI换脸、AI拟声在网上已经成为了重灾区，我本人也是主要的受害者，呼吁尽快立法重点整治。”
雷军提出三条具体建议：一是针对“AI换脸拟声”等某一代表性问题，探索推出人工智能单行法，提高立法位阶及其效力，分级分类的基础上进行务实治理，明确“AI换脸拟声”应用的边界红线，完善侵权的证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。
二是强化行业自律共治，压实平台等各方的责任。支持平台企业开发可精准识别人工智能深度合成内容的技术能力，优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制，确保及时阻断问题内容传播。
三是建议加强人工智能方面的法制宣传教育，增强民众的警惕性和鉴别力，聚焦重点人群，在中小学人工智能教材中加入伦理规范内容，深入老年人聚居的社区开展相关知识普及活动，在全社会夯实“以人为本、智能向善”的人工智能发展生态。
据潇湘晨报，在3月5日的政协小组讨论上，全国政协委员、山东籍演员靳东回应了AI换脸导致的诈骗问题。他说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”
2024年11月，江西一位老人来到银行办理银行卡，表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。民警查看后发现老人所谓的大明星“靳东”男友是骗子冒充的，视频也是由电脑AI合成。
图片来源：视觉中国
3月6日，就AI换脸这个代表、委员关注的话题，中国传媒大学副教授张鹂对潇湘晨报表示，AI换脸带来的风险，主要体现在三个方面：
一是有不法分子通过AI换脸技术进行诈骗，给普通民众造成财产损失；
二是AI换脸技术孳生了一些灰色产业，例如用AI换脸技术制作冒充教授或明星的视频，甚至发布不当内容；
三是公众人物受到AI换脸技术的侵害，致使个人形象、声誉受损。
张鹂也指出：“AI技术在带来风险的同时，也具有潜在的应用价值。例如在内容生产领域，AI技术让视频制作更加便捷、降本增效，这本身就是生产力的某种释放。因此，对待AI技术不能采取‘一刀切’的态度，不能看到风险就全面禁止其应用。”
张鹂认为，对于普通用户来说，AI换脸技术更像互联网上的一场狂欢，主要用于制作趣味视频，很多其实无伤大雅，如果未明确侵害他人利益，这种娱乐本身也是学习AI技术的途径之一。“技术本无善恶、有利也有弊，其中的边界也比较模糊。”
“假如AI换脸被过度滥用，或许将来某一天，我们不得不在发布真实录制内容时进行声明、强调内容的真实性。如果那一天真的到来，整个社会对真实性的鉴别成本将会非常高，因此目前就要采取办法避免该技术泛滥成灾。”张鹂说。除立法外，公众人物也可以考虑采用这种类似“白名单制度”的方法进行真实性声明。
“人们对于真实的认定门槛的确是在不断提高的，这或许是互联网普及和AI技术发展不可避免的宿命。在技术飞速发展的年代，要通过各种方式增强民众的警惕性和鉴别力，这一点尤为重要。”张鹂说。
每日经济新闻综合央视新闻、锦观新闻、潇湘晨报
封面图片来源：视觉中国
1本文为《每日经济新闻》原创作品。
2 未经《每日经济新闻》授权，不得以任何方式加以使用，包括但不限于转载、摘编、复制或建立镜像等，违者必究。
每日经济新闻客户端