一键脱衣、换脸亲吻，AI开始作恶了？

　　近期，不少网友反映，原本免费的AI换脸APP如今需充值会员才能使用。这些应用在应用商店的下载量激增，评论区褒贬不一，既有人觉得新颖有趣，也有人提出质疑。

　　有博主公开抱怨被AI换脸软件盗用图片作为模板，感叹自己和摄影师的辛勤劳动成果被轻易盗走，感到“伤心”。另一位博主也发现自己的照片在1月份发布后，被大量网友用AI换脸软件私自使用，甚至制作出热门视频和照片流传至海外平台。

　　在短视频平台上，一些以AI换脸为特色的博主因此吸引了大量粉丝。然而，一位拥有百万粉丝的特效师洪某因将女明星迪丽热巴电视剧中的激吻镜头男主角替换为自己而引发争议，最终被粉丝抗议，甚至遭到攻击。他的账号因此被封15天。

　　这一事件引起了法律界的关注，也再次凸显了AI换脸技术背后的伦理和法律风险。浙江晓德律师事务所主任陈文明指出，若得到演员同意并尊重其权利，则行为可行；否则可能违反道德和法律。万商天勤律师事务所合伙人张烽则认为，这种行为可能侵犯了录像制品或视听作品的版权改编权，以及女明星的人格权、肖像权和名誉权。

　　与此同时，生成式AI技术也在迅速发展。今年以来，随着ChatGPT的火爆，生成式AI逐渐受到关注。赛迪智库网络安全研究所所长刘权表示，生成式AI通过学习生成新数据，可应用于更多场景，完成多样化任务，正在成为“通用型AI”。

　　技术成本的降低使得生成式AI在内容生产、电商设计等领域展现出巨大潜力。一位电商从业者发现，利用AI进行电商设计的产品相继问世，能够高效低成本地进行营销内容制作。中央财经大学数字经济融合创新发展中心主任陈端认为，生成式AI最容易在内容生产领域带来变革。

　　然而，生成式AI的滥用也带来了严重挑战。陈文明强调，营利活动必须征得相关人士同意，否则可能侵权。刘权担心生成式AI可能被用于伪造文本、图片甚至视频资料从事犯罪活动。张烽指出随着技术发展监测检测手段和法律规制将加大违法成本。

　　国家互联网信息办公室已起草《生成式人工智能服务管理办法(征求意见稿)》并向社会公开征求意见旨在促进生成式AI技术的健康发展。陈端解读此举为包容开放的态度通过政策导向和指引帮助创新创业人士明确底线意识释放创新创业潜力。刘权强调应建立规范和监管机制确保技术的合法、合规和安全使用维护社会秩序和价值观念。同时企业和个人也应自觉遵守法律规定和社会道德标准不进行侵权行为和虚假宣传促进AI技术的健康发展。