AI技术应用逐渐普及，换脸技术从个人娱乐演变为黑产交易。近期，一些二手交易平台悄然出现“150元40合集定制”、“60元全部打包”的AI明星换脸情色淫秽片交易。卖家利用AI技术制作并售卖当红女明星的不雅、大尺度视频图片，甚至有“40元100部视频，850元包制作教程”的套餐。此外，卖家还提供现场版制作过程及体验版视频，并通过网盘渠道发送，支持微信、支付宝等多种支付方式，确保隐秘性和安全性。
AI换脸黑产利用AI定制技术，对多位女星的肖像进行“移花接木”，合成淫秽视频进行非法盈利。从成品情色视频、定制视频到软件及教程，整个产业链从上、中、下游均有厂商提供，部分厂商甚至提供从研发、定制、包装等一条龙服务。今年3月，闲鱼平台在浙江省网信办的协助下，开展了为期3个月的“互联网专项整治”行动，严厉打击涉嫌违反公序良俗的“扫黄打黑”行为。
AI“换脸”明星售卖淫秽视频涉及多项违法行为，包括侵犯原有视频版权所有人的知识产权、传播淫秽物品罪以及人格权利侵权等。根据我国《刑法》相关规定，制作、复制、出版、贩卖、传播淫秽物品的行为将受到严厉处罚。
此前，AI换脸软件“ZAO”的爆红与陨落也揭示了这类技术的问题。其“平民化”在推动AI应用突破的同时，也暴露了隐私泄露和滥用等风险。2017年，“deepfakes”在Reddit上发布的《神奇女侠》女主“盖尔·加朵”的色情视频就是一个典型例子。由于巨大的娱乐性和商机，AI换脸技术被大范围普及和使用。然而，当技术走出专业影视制作需求，用于伪造虚假视频、非法催收等，就引发了公众的担忧和抵制。
为了应对这些风险，一些平台采取了行动。例如，Reddit关闭了deepfakes论坛并更新了全网规则以严格审查涉及非自愿情色和未成年性暗示的内容。Pornhub等也明确表示不容忍任何非自愿的内容。同时，“ZAO”也在其用户协议中强调了保护用户信息安全的重要性。
然而，很多时候用户可能无意识中同意了含有风险的用户协议并上传了照片。因此除了法律层面的规范外还需要提高用户的隐私保护意识。科技向善不仅是口号更是行动边界的指引。
欢迎加入“AI世界”获取更多资料！回复“5G”或“资料”免费获取海量资料或扫码添加小编申请入群与志同道合者交流！别忘了好看的人都“在看”哦！
© 版权声明
本网站上的所有资源均来源于本网站，所有网址和文章版权均归原作者所有。如有侵权行为，请将相关证明发送至以下电子邮件地址：dxsen@qq.com
