人人都能做的AI换脸视频，为什么能骗到科技从业者？

　　每经记者：杨子桦 每经编辑：陈晨

　　近期，AI换脸技术在社交网络和电商平台上迅速走红，然而，其带来的风险也随之显现。福州某科技公司法定代表人因被AI换脸诈骗430万元的事件刚刚平息，安徽何先生又遭遇了仅9秒就被换脸骗走245万元的悲剧。与此同时，直播间中换上杨幂、迪丽热巴等明星脸的主播带货，让观众真假难辨。这些事件引发了公众对AI技术安全性的担忧。

　　在享受技术狂欢的同时，技术的另一面也逐渐显露：伪造技术和鉴别技术之间的“猫鼠游戏”愈演愈烈。那么，批量生产的AI换脸技术门槛究竟有多低？据瑞莱智慧RealAI联合创始人、算法科学家萧子豪介绍，AI换脸、AI换声主要使用的是深度合成技术，随着技术的普及和开源开放，深度合成内容制作的技术门槛越来越低，普通人也能轻松制作。目前，视频聊天或直播的AI换脸有两种方式：一种是事先做好的直接播放，另一种是接入实时换脸的视频。第一种方式的制作成本已经非常低，而第二种方式也有非常成熟的技术手段支撑。

　　在电商平台上，尽管“换脸”等关键词已被屏蔽，但通过搜索其他相关词条仍能找到相关内容，售价多在几十元。手机应用商店内也充斥着各种AI换脸软件，其中faceplay在ios系统的下载量已达24万。这些软件通过收费获取模版的形式盈利，有的软件甚至只需看广告就可以制作。

　　随着AI技术的不断发展，深度合成技术在不断进化，生成的声音和视频越来越逼真，普通人肉眼鉴别的难度也越来越高。然而，为了应对这一挑战，微软等科技公司正在研究在AI生成的内容里放置加密水印的技术，以检测虚假信息。同时，反深伪检测技术也在不断发展中，融合多模态内容的取证分析、基于数字水印的溯源技术等多方面能力，以实现伪造内容的精准识别。

　　根据《互联网信息服务深度合成管理规定》，深度合成服务提供者应对使用其服务生成或编辑的信息内容采取技术措施添加标识。目前，b站和抖音等平台已开始在AI合成视频上添加明显标记。萧子豪建议，普通人在遇到有疑问的情况时，可以引导对方做一些大幅度的动作以识别出AI换脸。但这种方法对于“高水平”的诈骗分子仍存在难度。此外，追问私密信息也是核实对方身份的一种方式。

　　值得注意的是，AI换脸技术还可能侵犯著作权。根据著作权法规定，如果非法使用表演者的视频素材进行AI换脸诈骗，则不仅构成侵权还涉嫌犯罪。此外，《互联网信息服务深度合成管理规定》也规定了深度合成服务提供者和技术支持者的责任和义务。目前法律尚未对AI生成式内容的版权作出明确规定但正在逐步完善中。

　　综上所述随着AI技术的广泛应用法律法规也会不断与时俱进国家将出台更多规范措施以形成完备的法律体系保障公众权益和安全。