随着AI换脸技术的迅速发展,该技术已经展现出广泛的应用潜力,但同时也伴随着诸多风险。那么,AI换脸技术是如何实现的?广大网友又该如何防范其中风险?听听专家怎么说。
“AI换脸”技术利用深度学习、虚拟现实等生成合成类算法对图像进行分析和处理,通过神经网络将图像重新排布拟合来制作生成图像、音频、视频等信息。早期的换脸技术通过图像处理的方式,将人脸的局部特征移植到图片上,但这种方法工作量大且处理痕迹明显,难以生成高清的换脸视频。而现在的AI技术则可以通过对大量人脸图像进行学习,建立逼真的脸部模型,实现局部人脸特征的自动替换。
专家指出,实现图像中人脸的替换,首先需要对图像中的人脸进行检测和定位,精准识别关键人脸特征点。其次,需要将更换的人脸进行同步操作,通过数学转换将其与目标图像中的人脸对齐。若要在视频中实现人脸更换,还需追踪人脸特征以确保稳定替换。此外,为了效果逼真自然,需确保替换后的人脸与原始图像中的环境一致,包括光照、阴影等效果。
AI换脸技术的快速发展使得公众对其真实效果产生担忧。专家表示,从图片到电视节目制作,换脸技术已能进行一定编辑。目前通过深度学习技术可生成非常逼真的图像甚至视频,从非专业角度看,足以以假乱真。
尽管AI换脸技术在社交、影视、医疗等领域有广泛应用和商用潜力,但它也是一把“双刃剑”,为不法分子提供了可乘之机。今年4月,福州市某科技公司法人代表因视频聊天中被AI换脸诈骗10分钟内被骗430万元。此类案例屡见不鲜,甚至涉及知名人士。
为了识别和防范“AI换脸”诈骗,研究者正致力于图片和视频的鉴伪技术研究。判断视频是否经过换脸处理的一种传统方法是分析人脸与环境的光影一致性。此外,研究人员还会收集大量真实图像和视频训练人工智能功能以区分真伪。中国互联网协会提醒公众提高警惕加强防范并多重验证远程转账。警方也强调保护信息、多重核验、谨慎转账等防范措施。
新技术带来机遇的同时也带来挑战。AI换脸技术的发展引发了社会、法律与道德议题。从规范和监管角度看需发展检测技术、完善法律法规、制定行业道德规范并加强公众教育。解决背后问题需全社会共同努力包括技术手段开发、法律完善、国际合作和行业自律。明确边界规范把关将进一步激发科技向善让科技创新更好服务生活。