每经AI快讯,5月24日,中国互联网协会发布公告称,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。广大公众需提高警惕,加强防范。事实上,近段时间AI行业发展乱象引发关注,如何保障人工智能的健康、可持续发展正被业界广泛探讨。
《证券日报》记者连日来通过走访调查发现,“AI换脸”技术复杂度逐步降低且质量迅速提升,广大公众不容易辨别真假。同时,该类形式诈骗已蔓延至金融行业中,已有部分券商提示投资者谨防此类高仿真诈骗手段。
受访专家普遍认为,“AI换脸”技术的滥用给金融机构敲响了警钟,其复杂性、隐蔽性、突发性对机构的科技识别及运用提出了更高的要求。(证券日报)