多位女明星不雅换脸视频被公开售卖,AI换脸产业链隐患重重

AI百科2个月前发布 快创云
35 0

  近期,一款名为“ZAO”的换脸软件迅速走红,引发了广泛争议。随着“ZAO”的热度不断攀升,AI换脸技术的灰色产业链也逐渐浮出水面。据调查,目前网络平台上存在售卖明星换脸的淫秽视频、提供视频定制换脸服务以及教授换脸技术等现象,已经成为一门生意。

  律师指出,制作和售卖AI换脸不雅视频的行为已经构成传播淫秽物品牟利罪,并涉嫌侵犯他人的肖像权和名誉权。此外,被换脸的视频有可能被用于诈骗或敲诈,造成更大的危害,应引起全社会的重视。

  在某头部二手交易平台上,搜索关键词“AI换脸”时,系统提示“无法搜索违规信息”,但搜索“换脸”时,可以检索到类似“爱换脸,全网最全、价格最低”等卖家信息。与其中两位商家沟通后,发现他们实际上在出售明星换脸的不雅视频。

  卖家雨嫣(化名)表示,他手中有45位女明星的上百部AI换脸视频资源可供出售,并提供了视频目录截图。另一位卖家也表示可以打包出售40多位女明星的上百部AI换脸视频,价格为75元,可以免费试看。这些卖家均要求不要在二手交易平台上沟通内容,而是在QQ上进行交流。

  此外,还有其他卖家提供视频定制换脸产品,只需提供被换脸人的照片,卖家即可将照片中的人脸“转”到特定视频中。同时,一些与“AI换脸”相关的QQ群内,还有卖家传授AI换脸技术,并赠送全套明星换脸视频资源。

  有用户对此表达了担忧,担心自己的照片被用于制作换脸视频。同时,也有评论指出,这种简单的应用可能会被居心叵测的用户利用,制作各种色情、暴力的虚假视频。

  实际上,AI换脸技术并不是最近才出现的。今年年初,一段通过AI技术将《射雕英雄传》中演员朱茵脸部替换成杨幂的视频就曾在网络上引起热议。目前,在一些视频网站上,仍有大量AI换脸视频存在。

  AI换脸背后是Deepfake技术,这种技术用人工智能软件制作虚假视频,由FakeApp程序创建而成。在ZAO因可能引发版权、隐私安全等问题引起用户关注后,有律师表示,这类利用深度学习技术换脸的软件存在大规模收集生物识别信息和“真假难辨”的Deepfake给社会带来的安全风险。这种风险目前被公众广泛低估,但实际上已经带来了严重的后果。

  律师赵占领表示,制造、销售AI换脸淫秽视频的行为无疑构成传播淫秽物品牟利罪,并涉嫌侵犯他人肖像权和名誉权。对于购买AI换脸淫秽视频的买家来说,若对其加以传播或以传播牟利,也可能构成违法甚至犯罪。此外,提供定制视频换脸服务若被不法利用可能造成更大的社会危害。因此,对于这种新型的违法犯罪行为需要及时完善现有法律规则和技术手段并通过更多手段让民众知晓其危害性。

© 版权声明

相关文章