“黑化”AI：造谣、诈骗，堪比幻术

　　快播创始人王欣曾发表“技术无罪论”，这一观点在七年前引发了全民热议。出狱后，他对此进行了修正，认为“技术本身无罪，但人会犯错”。如今，AI技术正被不法分子利用，5月22日，“AI诈骗全国蔓延”成为微博热门话题。包头警方披露，不法分子利用AI换脸和仿声技术，在微信视频中诈骗，仅10分钟便骗取了430万元。

　　此类事件在国内频繁发生。骗子利用AI工具进行换脸和声音模拟，实施多起诈骗，许多人因此上当受骗。有网友用“幻术”来形容这种可易容、能仿声的AI技术。此外，还有人利用ChatGPT的文本生成能力，制造谣言，以吸引流量。

　　当AI被“黑化”，正邪之间的攻防战也随之展开。在“AI换脸+仿声 10分钟骗走430万”的案例中，福州市某科技公司法人代表郭先生因轻信微信视频中的“好友”，在未经核实资金是否到账的情况下，将430万元打入对方提供的陌生账户。事后发现，视频中的“好友”其实是骗子利用AI技术伪造的面孔和声音。幸运的是，郭先生及时报警，福州、包头两地警方迅速启动止付机制，成功拦截了336.84万元，但仍有93.16万元被转移，目前仍在追缴中。

　　这起诈骗案件引起了广泛关注，“AI诈骗正在全国爆发”的话题迅速登上微博热搜。许多网友担心，当强大的AI被坏人利用时，其危害性可能超过其进步性带来的好处。

　　除了诈骗外，被“黑化”的AI还成为谣言制造机。例如，今年3月，一张女孩一丝不挂搭地铁的照片在网上疯传，后经证实是用AI“一键脱衣”生成的。此外，还有人利用ChatGPT等AI工具制造虚假不实信息，发布谣言，如“郑州鸡排店惊现血案”等。这些事件暴露了AI作为技术工具的黑色一面。

　　面对AI诈骗的频发和谣言的满天飞，正与邪的攻防战已经打响。包括谷歌、微软在内的科技公司推出了“鉴伪”工具，用技术对抗技术。对于普通人来说，提高警惕心、多渠道核实身份已成为必要的防骗措施。包头警方提醒公众要提高防范意识，不轻易提供个人生物信息给他人，网络转账前要核验对方身份一旦发现风险及时报警求助。同时要注意保护证据并在不慎被骗或遇可疑情形时立即报警。