闲鱼卖家兜售不雅视频,杨幂、关晓彤成主角,AI换脸技术助纣为虐

AI百科2个月前发布 快创云
28 0

  近期,二手交易平台闲鱼App上出现了一种令人震惊的现象:有用户利用AI换脸技术,将不雅视频中的女主角替换成国内多位知名女星的面容,并公开售卖这些视频。据其中一位卖家透露,其手中拥有超过100个这样的视频,涉及包括杨幂、杨紫、迪丽热巴、关晓彤在内的30多位当红女星。更令人震惊的是,这些视频的售价仅为75元。

  此外,还有商家提供明星换脸合成情境图服务,价格根据明星数量而定:单个明星30元,两个明星40元,三个明星50元。每个明星的图片数量大约在300张左右。同时,该商家还声称拥有包含30多位明星的100部视频。

  针对这些滥用AI技术的行为,闲鱼平台迅速作出回应,表示将对这些违反公序良俗的商品进行零容忍处理,并会严肃处罚违规卖家。

  值得一提的是,AI换脸技术并非新鲜事物。早在两年前,这一技术就在国外开始兴起,并被称为“Deepfake”。当时就有一些技术爱好者将女明星的面容替换到不雅视频中。而2017年12月,一个名为deepfakes的程序员在Reddit上发布的一段将《神奇女侠》主演盖尔·加朵、Taylor Swift等明星面容替换到不雅视频中的视频,更是引发了广泛关注。此后,随着换脸软件的普及,普通人也能轻松参与制作换脸视频,导致这类视频迅速传播。

  近期,一款名为“ZAO”的AI换脸软件在朋友圈爆红,但随后因用户隐私协议不规范等问题被工信部约谈整改。该软件官方发表致歉声明并更改了用户协议,但仍有大量网友要求注销账号并终止授权肖像。

  对于电商平台不良商家利用AI技术兜售明星换脸不雅视频的行为,有律师指出,这种行为不仅侵犯了肖像权,还构成名誉侵权。传播不雅视频更可能构成刑事犯罪,情节严重的甚至可能判处无期徒刑。

  随着AI技术的不断发展,其应用领域日益广泛。然而,这也为不法分子提供了可乘之机。他们可能利用AI换脸技术制造假新闻、假视频等虚假信息。因此,我们不仅要关注电商平台上的违规行为,还要警惕AI技术被恶意利用的风险。

© 版权声明

相关文章