案件细节曝光！AI换脸伪造女明星涉黄视频，还有人换成暗恋女生

　　“AI换脸”技术近年来备受关注，它能够通过深度学习技术将任何人的面孔替换到视频中的任何角色上，甚至连表情和动作都能达到以假乱真的效果。然而，这项新技术的出现也引发了一些人的不良企图。在杭州，虞某就利用“AI换脸”软件制作并传播了大量淫秽视频，其中不乏女明星等公众人物的身影。虞某甚至提供换脸定制服务，以此牟利。

　　2022年8月，杭州市萧山警方在巡查中发现了这一违法行为，并迅速立案侦查，最终将犯罪嫌疑人虞某抓获。随后，该案被移送至杭州市萧山区人民检察院审查起诉。

　　据检察机关调查，虞某自2020年开始接触“AI换脸”软件，起初他想通过推广技术和软件获利，但效果不佳。一次偶然的机会，他看到有人在社交群组中发布淫秽信息以吸引关注，于是他也开始尝试制作并传播淫秽视频。

　　虞某在社交软件上创建了“浏览群”和“私人定制群”，通过传播淫秽视频吸引流量，并收取入群费用。同时，他还提供人脸视频定制服务，根据视频长度和难度收取费用。截至案发，公安机关共查获虞某传播的淫秽视频1200余部、图片1600余张。

　　检察机关认为，虞某利用“AI换脸”技术侵犯公民个人信息的行为具有社会危险性，因此提起民事公益诉讼。2023年7月，杭州互联网法院对这起公益诉讼案进行审理，并作出判决。

　　法院审理认为，虞某利用“AI换脸”技术侵犯公民个人信息的违法事实确凿，支持检察机关的全部诉讼请求。判令被告虞某删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失共60000元。这些款项将用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

　　此外，虞某还因制作、传播淫秽物品牟利罪被判处有期徒刑七年三个月，并处罚金6万元。

　　这起案件引发了社会对于“AI换脸”技术法律边界的关注和讨论。法官表示，“AI换脸”技术即便只是用于搞笑或制作恶搞照片，也可能涉及侵犯肖像权、名誉权等法律问题。而滥用“AI换脸”技术更是对社会公序良俗的践踏和对稳定社会环境的挑战。

　　目前，我国已经出台了一系列法律法规来规范深度合成技术和生成式人工智能服务的管理。使用者必须遵守法律法规的约束不得利用这些技术从事违法活动。同时我们也应该认识到新技术的发展应该服务于全人类的公益而不是个人的非法牟利。在运用新技术时我们应该把握好界限确保其为我们的美好生活服务。