你真的能够识别AI生成的图片和视频吗？

　　自从stable diffusion和Midjourney问世以来，文本生成图像和视频的能力已达到了令人惊叹的逼真程度。起初，我也自信能轻易分辨出AI的“杰作”，但随着时间的推移，我逐渐意识到，这些生成的内容已不再是那种一眼就能看穿的初级水平。

　　比如，下面的两幅图，你能猜出哪一幅是AI创作的吗？

　　真实答案是，右边的是真实照片，而左边是AI生成的。

　　为了验证当前AI生成技术的实力，有网友创建了一个名为“an AI video quiz”的网站，旨在测试人类是否能准确识别出AI生成的视频。

　　感兴趣的朋友不妨点击此网站参与测试：该测试包含10个视频，要求用户识别出哪些是真实、哪些是虚假。从我个人测试结果来看，很多视频即便仔细观看，也难以分辨其真假。

　　例如，下面这个视频，多次观看仍难以辨别真伪。

　　起初，我自信满满地认为这些测试将轻而易举，但实际操作后才发现自己低估了这些AI视频的复杂性。我仅答对了7道题。

　　此外，据统计，在成功完成测试的人中，仅有6.7%能全部答对10个问题，这确实令人大跌眼镜。

　　不得不承认，如果AI真的想“骗”我们，往往能做得毫无破绽。对于普通人而言，识别AI生成的视频更是难上加难。

AI生成引发的舆论与诈骗问题

　　不久前，一张AI合成的图片就在美国大选中引发了“红蓝对决”的争论。共和党全国委员会委员Amy Kremer在推特上发布了一张女孩在飓风救援中抱着小狗哭泣的照片，试图借此煽情。

　　当这张照片被识破是AI生成后，Kremer的反应却显得毫不在意。她认为照片的出处并不重要，主要目的是批评执政党在救援中的失职。这种利用AI图片引导舆论的行为，极易被别有用心之人利用，尤其是那些难以分辨图片真伪的普通人。

　　另一方面，AI生成技术也被不法分子用于诈骗活动。最近，香港就发生了一起涉及2亿港元的AI诈骗案。诈骗分子利用深度伪造技术，伪造公司高层管理人员的形象和声音，在视频会议中冒充多人，成功骗取财务职员转账2亿港元。

　　此外，B站UP主“滤镜粉碎机”利用AI合成自己的语音视频，成功骗走了母亲的2万元。这些案例都警示我们，AI生成的视频已到了肉眼难辨的地步。

如何识别AI生成的内容？

　　要识别AI生成的图片或视频，有几个关键方法：

1. 观察不自然的面部细节：在视频中，人物的嘴部动作可能不自然或不连贯。特别是讲话时出现的大幅度抖动，通常是由于生成模型在帧与帧之间的连续性处理不完善。
2. 留意异常的光影和反射：AI生成的图片可能无法正确渲染复杂的光影或反射效果，导致画面看起来不真实。例如，两个人物反射出的光源可能不一致。
3. 注意频繁重复的动作：AI生成的视频会频繁重复某种动作，这是因为其动作匹配算法一般不够精细，只能学习并重复几个关键动作。

如何保护个人隐私安全？

　　AI技术的滥用对我们的个人隐私构成了重大威胁。例如，韩国的N号房2.0事件就揭示了AI换脸技术的恶意应用。为了防止此类事件再次发生，我们需要采取以下措施：

• 减少发布涉及个人隐私的信息：在互联网上发布自己的照片存在风险，因此应尽量减少这类信息的发布。
• 利用对抗样本技术：可以在图像中加入人类肉眼不可见的噪声来干扰去衣模型的识别和生成过程。例如通过生成扰动使得模型无法正确判断衣物区域或生成合成图像。虽然具体方法有多种但核心思想在于干扰模型的判断过程使其无法正确执行预期的任务。虽然技术实现上可能有多种方法但核心思想在于通过添加干扰项来影响模型的判断和生成过程从而保护个人隐私不受侵害。同时这也提醒我们每一个人在日常生活中要更加关注自身的隐私问题在互联网上发布信息时需谨慎以免被不法分子利用。