AI照妖镜一眼判真假：网页图像视频都能鉴，边播边识别

　　每个人都能拥有检测AI造假的“照妖镜”了！

　　一家清华系独角兽初创公司，发布了面向个人的产品级检测工具，能够轻松识破AI伪造的图像、音频和视频。该工具无需上传素材，只需在网页和视频会议中主动探测内容和人脸真伪，并实时给出提示。

　　这款工具由清华大学朱军教授与学生田天博士等共同创立的公司——瑞莱智慧（RealAI）打造，名字叫做“尊嘟假嘟”，英文名RealBelieve。随着视频生成模型质量的不断提高，辨别AI造假也变得越来越困难。为此，团队基于深度学习技术，构建了一整套多模态、多角度的AIGC检测技术体系。

　　“尊嘟假嘟”正是基于这套技术体系建立，目前已开启内测招募，通过申请后即可体验。这款工具不仅支持上传检测，还能主动进入视频流，用户一边观看视频，系统就能一边判断该视频是否含有AI合成内容。比如，在Sora的宣传页面，系统就会对网页里的Demo视频做出提示标注，提醒浏览者该视频“AI含量”极高。此外，针对AI诈骗日益猖獗的情况，“尊嘟假嘟”还支持视频通话当中进行AI合成实时监测防护。在视频通话时，无需截取视频上传，系统会及时主动给用户发出预警内容，提示视频对方的人脸是否存在AI合成的风险。

　　针对“尊嘟假嘟”背后的技术原理，瑞莱智慧联合创始人、算法科学家透露，该产品背后的检测模型基于贝叶斯深度学习技术开发。团队构建了一整套多模态AIGC检测技术体系，能够挖掘并建模多模态、多层次、多角度的AI合成线索，度量真假差异，并进行不确定性推理决策。实际上，造假手段与防御方式之间一直在进行着一场“猫鼠游戏”。起初的AIGC内容还是“一眼假”，但随着AIGC能力的升级，这些“常识”也逐渐被模型所掌握，靠肉眼鉴别也越来越困难了。于是检测手段也在进化，人们开始研究用机器学习的手段进行分析。但这场你追我赶的争斗从未停止，因为用来检测AI的模型本身也是个AI，伪造者可以通过对抗训练的方式规避检测。因此，瑞莱智慧在研究检测的同时，也会针对自己的方法进行防御性攻击，争取让检测走在造假的前面。

　　目前，“尊嘟假嘟”RealBelieve已开启内测招募。通过申请后，便能试用上述功能。感兴趣的读者可以访问以下链接进行报名：www.feishu.cn/share/base/form/shrcn1eh9njr28otbSZ9Xl1EPxb