最近，有网友反映，家中老人在网络带货视频中看到“张文宏”在卖一种蛋白类的产品，老人信以为真，不仅下了单还转发到了很多群。经过记者核实，该视频并非张文宏医生本人制作，而是利用AI技术合成的。除张文宏之外，各热门综艺节目、影视剧也纷纷成为AI软件恶搞对象，被生成玩梗段子、带货视频。尽管在很多人眼中，使用AI软件制作玩梗视频是玩笑也是创意，但在一些业内人士眼中，这样的行为存在法律风险。
AI使用不当或被追究刑事责任
　　近日，有网友发消息称：“张文宏是不是带货了？”视频中，“张文宏”在卖一种蛋白棒，家里的老人信以为真，已经开始下单了。据媒体报道，发布视频的账号名为“般画234”，目前已无法在平台搜索到。张文宏回应称，这样的卖货账号已出现多个，而且一直在变，他多次向平台投诉，但收效甚微。
　　“这些AI合成的假信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”张文宏称，除了向平台方投诉，他也曾考虑过报警，但对方看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门加强监管。对此，上海市消保委副秘书长唐健盛认为，这种做法非常恶劣，已经构成了对消费者的欺诈，相关监管部门应对其予以严厉处罚。
　　张文宏医生是家喻户晓的公众人物，在社会上具有很高的权威性和公信力。如网友所述，不少消费者看到“张文宏”在带货，出于对他的充分信任才下单购买，谁能想到，视频中侃侃而谈卖力推荐商品的“张文宏”其实是假的，是无良商家通过AI技术合成的。
　　目前用语音合成来模仿他人声音，并且对上口型生成视频的技术已经十分成熟，甚至仅用一张照片就能生成此类视频。在这种情况下，一些对AI技术不甚了解的消费者，特别是一些老年人，确实很难分辨真假，很容易上当受骗。从之前的“假靳东”到如今的“假张文宏”，利用AI技术炮制名人音视频作品以假乱真，甚至伪装成熟人、亲人实施精准诈骗的案例屡见不鲜。
　　北京市京都律师事务所合伙人徐伟律师认为，未经授权使用AI换脸技术进行经营行为，已侵犯到当事人的肖像权。在这种情况之下，如果经营者有夸大产品功效、定价虚高的行为，消费者基于对当事人的信任而购买该产品，该行为还有可能构成诈骗罪。而且，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中明确，对利用“深度合成”等生成式人工智能技术发布违法信息的，依法从重处罚。
　　徐伟介绍，肖像权是指自然人对自己的肖像享有再现、使用或许可他人使用的权利。保护肖像权的关键在于保护可识别性，如果公众可以通过表演形象辨认出演员个人的体貌特征，则意味着该形象能够与演员本人建立相互对应的关系，此时可以视为演员对该表演形象享有肖像权。在可建立识别性的情况下，如果运用AI换脸技术对表演者的面部实施丑化、更改处理，以达到恶搞或者低俗的效果，这种恶意丑化表演形象的行为既构成了对表演形象的歪曲，也构成了对肖像权的侵犯。
　　“AI换脸”技术的应用中，从视频最终的内容角度考量，如果有人利用换脸软件对他人进行恶意丑化、玷污式恶搞，或者将他人的脸换到不雅视频中，还会侵犯他人的名誉权。
　　对于消费者来说，经营者可能构成欺诈行为，应对消费者承担赔偿责任，甚至还有可能涉嫌诈骗罪，承担刑事责任。
　　根据消费者权益保护法，消费者因虚假视频上当受骗时，可以要求商家退一赔三，金额不足500元的按500元赔偿。消费者可以向消费者协会投诉商家，也可以对商家提起民事诉讼。
　　如果经营者有夸大产品功能、定价虚高的行为，并使用AI换脸技术让消费者误以为该产品得到了名人的推荐，从而诱导消费者购买，这种行为就可能涉嫌诈骗罪。因为在这种情况下，消费者是基于对名人的信任而作出购买决定的，而实际上这种信任是建立在虚假信息的基础上的。
技术提供者、视频平台也要担责
　　此类事件中，徐伟认为，除了经营者，AI技术提供者和视频平台，也需要承担相应的责任。
　　徐伟介绍，根据《互联网信息服务深度合成管理规定》，要求深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，必须在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。目前一些较大的视频平台在许多AI生成的真人换脸视频下方都标有提示信息，在用户刷到AI生成内容的视频时，会标注“AI生成内容”或“疑似包含AI创作信息，请注意甄别真实度”等提醒。如果被投诉的虚假视频发现没有该类提示性标注，则平台难辞其咎。
　　视频平台若是对平台使用者的这种侵权行为不予恰当处理，则可能承担连带责任。平台具有一定的审查、监督职责，在被告知或发现此类违法行为后，应当积极响应权利人的请求，及时撤销、下架相关侵权图片、视频，中止相关直播等，避免恶劣影响的进一步扩大。相反，平台若是有意放纵此类行为的发生、继续，对相关投诉、举报等视若无睹，则应当与侵权者承担连带责任。
消费者如何防范
　　我们常说“眼见为实”，但在AI时代，肉眼所看见的也不一定是真相。随着人工智能技术的飞速发展，从简单的图像编辑，到复杂的影片制作，AI生成视频的能力越来越强，越来越逼真。然而，这种技术进步也带来了前所未有的侵权风险，一些不法分子甚至利用“AI换脸”技术实施诈骗。
　　徐伟提醒，对于个人而言，除了在形形色色的“名人脸”中保持清醒，避免陷入虚假宣传，更重要的是面对花样翻新的AI诈骗，必须保持防范意识。
　　保护信息，提高警惕。不要轻易透露自己的身份证、银行卡、验证码等信息，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。
　　多重验证，确认身份。如果有人自称“熟人”“领导”等通过社交软件、短信以各种理由诱导汇款，或涉及网络转账交易行为时，务必通过电话、见面等多途径核验对方身份，不要未经核实随意转账汇款；如不慎被骗或遇可疑情形，请注意保护证据，并立即拨打96110报警。
　　相互提示，共同预防。要多多提醒、告诫身边的亲人、朋友提高安全意识和应对高科技诈骗的能力，共同预防受骗。提醒老年人在接到电话短信时，要放下电话，再次拨打家人电话确认，不要贸然转账。
　　　　　　　　　　　　　　　　　　 本报综合