01版:导读

11版:法治周刊

16版:光影记录

“AI换脸”诈骗如何防
看完这篇不上当

(2024年02月28日) 来源:潍坊晚报
放大   缩小   默认
  近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。那么,如何识别“AI换脸”诈骗?有哪些防骗妙招?相关专家作出详细解答。
  “AI换脸”背后的技术原理
  在技术层面,“AI换脸”是如何实现人脸的精确识别与替换,创造出逼真效果的?中国网络空间安全协会人工智能安全治理专委会专家薛智慧表示,“AI换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。其背后最核心的可概括为三个部分,首先,利用深度学习算法精准地识别视频中的人脸图像,并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次,将这些特征与目标人脸图像进行匹配、替换、融合。最后,通过背景环境渲染并添加合成后的声音,生成逼真度较高的虚假换脸视频。
  专家介绍,以诈骗为目的,实施点对点视频通话,需要AI人工智能生成仿真度极高的视频。想要达到以假乱真效果用于诈骗,难度不小。薛智慧介绍,AI人工智能生成背后需要有大量的资金投入,包括图片的采集、专业算法的人员等。且各方面的投入需要长时间不断地迭代,才能达到一个相当逼真的效果,才有可能达到诈骗的实际效果。
  “AI换脸”这一技术的出现,导致耳听为虚、眼见也不一定为实了。那我们该如何防范呢?专家表示,其实AI人工换脸无论做得多么逼真,想要识别视频真假还是有一些方法的。
  “实际上从目前的深度伪造实时视频上来看,是可以通过一些方式进行验证的”。中国计算机学会安全专业委员会数字经济与安全工作组成员方宇认为,我们可以要求对方在视频对话的时候,在面部前挥手。由于实时伪造的视频要对视频进行实时生成和处理“AI换脸”,因此在挥手的过程中,就会造成对面部数据的干扰,而伪造的人脸此时会产生一定的抖动或者闪烁等异常情况。再就是可以通过点对点的沟通,比如问一些只有对方知道的问题来验证。
  专家表示,除了一些辨别“AI换脸”诈骗的小诀窍,我们应该提高防范意识,在日常生活中也要做好相关防范措施,养成良好的上网习惯:做好日常的信息安全的保护,加强对人脸、声音、指纹等生物特征数据的安全防护,做好个人的手机、电脑等终端设备的软硬件的安全管理;不要登录来路不明的网站,以免被病毒侵入。对可能进行声音、图像甚至视频和定位采集的应用,做好授权管理;不给他人收集自己信息的机会,也能在一定程度上远离“AI换脸”诈骗。      据央视新闻客户端