怎样把我的脸换成迪丽热巴的？关于AI深度合成，这篇文章干货满满

　　图灵奖得主杨立昆（Yann LeCun）强调，推动AI向积极方向发展，关键在于开源。香港中文大学汤晓鸥指出，机器无法媲美人类灵魂的独特魅力。7月6日开幕的世界人工智能大会上，多位专家围绕AI技术展开了热烈讨论。

　　在2023全球数字经济大会上，多款生成式AI产品惊艳亮相，包括AI音乐、AI照片编辑、AI明星带货等，展现了AI在语音、图片、视频深度合成方面的强大能力。然而，AI深度合成技术也被不法分子用于非法领域，如AI诈骗案件频发，他们利用该技术冒充领导干部进行诈骗。

　　AI深度合成技术并非新鲜事物，自2017年代码开源以来，相关应用如雨后春笋般涌现。那么，这项技术的工作原理是什么？换脸影视剧等行为是否违法？能否通过简单的手势或方言识别AI换脸诈骗？如何从技术上进行防范？针对这些问题，《人民邮电》报记者采访了法律界、学界、业界专家进行解答。

　　关于AI换脸娱乐的合法性，上海大邦律师事务所游云庭律师解释，未经授权在平台上使用明星肖像和声音可能侵犯其人格权。平台则需对AI生成的内容做显著标识，并承担“通知—删除”义务。若平台知晓并参与了换脸玩法且未经授权，也可能被追究责任。此外，若上传者使用他人肖像进行合成，则构成对他人人格权的侵犯，同时“换脸版”影视作品也侵犯了原影视作品的著作权。

　　针对AI换脸诈骗，《民法典》和《刑法》均有相关规定。提取肖像和语音数据、训练伪造模型、编写诈骗脚本等行为分别涉及侵犯公民人格权的民事责任以及《刑法》中的帮信罪等。我国在《民法典》、《生成式人工智能服务管理办法（征求意见稿）》、《互联网信息服务深度合成管理规定》等法律法规中已对AI深度合成的使用范围进行了明确规定。

　　近期，中央网信办决定开展为期两个月的“清朗·2023年暑期未成年人网络环境整治”专项行动，旨在打击利用AI换脸等技术生成涉未成年人低俗色情图片视频等行为。已有相关案例出现，如上海市金山区人民法院审结的一起AI换脸APP违法使用他人视频案件，判决运营公司赔礼道歉并赔偿损失。未来，AI深度合成将在法律框架内合法运行。

　　那么，如何将脸换成迪丽热巴的呢？瑞莱智慧（RealAI）高级产品经理张天奕介绍，目前主要使用生成式对抗网络（GAN）技术实现深度合成。GAN由生成器和判别器组成，通过相互监督不断进步，使生成的图像越来越真实。2017年，Deepfake将AI伪造图像代码开源并应用于色情产业，此后Deepfake成为多媒体合成与篡改技术的代名词。在国内，ZAO换脸应用一度风靡但因数据安全问题被整改。如今，AI深度合成技术广泛应用于影视制作、广告营销等领域。

　　对于AI换脸诈骗的识别，用户可从眨眼、纹理特征等多个维度进行判别。但不断升级的技术已能弥补图像失真问题。中国信息通信研究院表示，随着AI普及应用不法分子实施诈骗的精准性、迷惑性、隐蔽性增强给公安、检察等机关办案带来挑战。专家建议通过追问私密信息核实身份并保护好个人图像避免被不法分子利用。

　　张天奕介绍目前主要通过特征差异进行伪造鉴别如频域信息、伪造痕迹等同时数字水印也有效。《生成式人工智能服务管理办法（征求意见稿）》要求履行算法备案和变更、注销备案手续。《互联网信息服务深度合成管理规定》要求添加标识并保存日志信息。微软也在研究媒体来源系统通过加密水印检测虚假信息。瑞莱智慧发布的DeepReal平台依托第三代人工智能技术快速精准鉴别合成内容打击违法行为。

　　未来反深伪检测技术需融合多模态内容取证分析、数字水印溯源技术实现精准识别打造可信内容体系。瑞莱智慧建议完善升级人脸识别技术防范手机摄像头权限被劫持并鼓励手机厂商支持3D人脸识别技术。同时大会也展示了包括“蚁鉴AI安全检测平台2.0”在内的九大“镇馆之宝”展示了人工智能领域的创新成果和进步方向为人工智能的健康发展提供了有力支持。