央视3·15晚会曝光换脸骗局，AI套路远远不止这些……

　　在最近一次3·15晚会上，多起利用AI技术实施诈骗的案例被曝光，再度引发公众对AI应用安全的关注。随着人工智能技术的迅猛发展，新骗局层出不穷，让人防不胜防。本文梳理了几种常见的AI骗局，提醒公众提高警惕，避免落入陷阱。

1. 虚假新闻

　　生成式AI的生成能力已涵盖AI成像、AI仿声、图像生成等，使得虚假信息的生成门槛进一步降低，成为某些灰色产业的敛财工具。世界经济论坛发布的《2024年全球风险报告》指出，AI驱动的错误信息和虚假信息是全球经济面临的最大风险。

2. AI机器人水军

　　类Sora生成式AI为机器人水军创造了极大空间。在社交平台，与网友对话的可能是AI，而非人类。这些AI机器人能自动生成各种风格的评论内容，干扰社会舆论。未来，具备高度自动化和仿生形态的机器人水军可能更加高效、低成本地生产大量逼真视频内容，对网络和社会的正常秩序构成威胁。

3. 换脸变声诈骗

　　随着AI时代的到来，“眼见为实”已成为过去。AI生成的假视频泛滥，甚至被用于诈骗犯罪。例如，假冒名人通过AI换脸、换声等手段骗取钱财，诈骗目标主要是中老年女性。此外，还有假冒熟人、多人变脸等诈骗手段，其成功率几乎接近100%。

4. 数字人盗脸带货

　　AI技术的流行催生了一批“数字人电商博主”，他们冒充本尊，收割粉丝。乌克兰网红Olga Loiek控诉自己的面孔和声音在中文网络上被非法盗用，用于创建多达数十个短视频账号。这些账号和博主利用AI合成的假人和机器语音，打着“促进国际友谊”的旗号出售商品。

5. 真假难辨的“AI培训”

　　针对年轻群体的AI骗局也开始出现。例如，李一舟因“清华博士”的标签在短视频平台备受关注，靠卖AI课赚取大量财富。然而，其课程内容质量低劣，且存在低价引流的骗局。北京航空航天大学法学院副教授赵精武表示，人工智能领域存在一些低价引流的骗局，需要谨慎选择学习平台和课程。

6. 发展与监管

　　随着技术迭代发展，互联网上的AI骗局不断翻新。网络安全公司Fortinet发布的《2024全球安全威胁预测》中提到，AI已成为“头号关注”。有报道称，OpenAI已关注安全性问题，并计划在未来应用内容追溯技术以鉴别AI深度伪造视频。此外，《人工智能法案》在欧洲议会通过，成为全球首个“AI法案”。在推动技术进步的同时，如何平衡好发展与监管成为迫切需要解决的问题。

结语

　　您还知道哪些AI骗局？欢迎在评论区留言，我们一起避坑。同时，针对新媒体文案撰写、短视频制作及运营等难题，新京报融媒共享平台推出相关培训课程，提供量身定制的专属课程和实践机会。欢迎前来交流进步。