AI“照骗”横行,靳东雷军喊“疼”,如何破局?
作者：微信文章AI “变脸”，明星大佬纷纷中招
AI 技术飞速发展，为人们的生活带来了诸多便利与新奇体验，可 AI 换脸技术的不当使用，也引发了一系列令人担忧的侵权问题，不少明星和大佬都深受其害。
知名演员靳东就深陷 AI 换脸的泥沼。一直以来，靳东凭借其精湛的演技和独特的形象，收获了一大批忠实粉丝，其中有不少中老年女性粉丝。然而，一些不法分子利用 AI 换脸技术，将靳东的脸合成到各种虚假视频中。这些视频往往打着靳东的旗号，编造一些极具迷惑性的故事，比如以靳东的名义与粉丝建立虚假恋爱关系 ，诱导粉丝进行投资、转账，导致很多对网络认知不足的粉丝上当受骗，遭受了财产与情感的双重伤害，有的甚至引发家庭破裂。
无独有偶，科技圈大佬雷军也未能幸免。去年国庆假期，短视频平台上突然涌现出大量 “雷军 AI 配音” 的恶搞视频。在这些视频中，“雷军” 锐评堵车、假期等热门话题，甚至出现了一些不雅谩骂的内容，还有 “雷军” 称要投资某某大学。这些荒诞的“雷言雷语”，让雷军和小米公司饱受困扰，不少网友真的以为是雷军本人发表了这些不当言论，对雷军的声誉和小米的品牌形象造成了损害 。雷军对此十分无奈，在微博评论区回复网友询问时，连用三个愤怒表情表达自己的不满 。
除了靳东和雷军，演员刘晓庆也遭遇过 AI 换脸。有网友向她求证，某微信视频号发布的很多她的视频疑似 AI 生成，内容并非她本人所说。刘晓庆点进去查看后，惊讶地发现画面是自己，声音也很像，但确实不是自己。
AI 换脸，侵权重灾区的崛起
AI 换脸技术的发展可谓日新月异。自2017 年 Deepfake 技术问世，AI 换脸正式走入大众视野。它借助深度学习算法，能精准识别视频中的人脸图像，提取关键面部特征，再与目标人脸图像进行匹配、替换和融合 ，最后通过背景环境渲染和添加合成声音，生成高度逼真的虚假换脸视频。
随着技术的不断成熟和普及，AI 换脸的门槛大幅降低。如今，普通用户只需在手机应用商店下载相关 APP，就能轻松实现换脸操作。这些 APP 提供丰富的模板和素材，用户仅需上传自己的照片，就能一键将脸合成到影视片段、热门广告甚至历史影像中，体验别样的 “明星” 生活。而且，AI 换脸技术还在不断突破，从最初只能处理简单的正面静态图像，发展到如今能实现动态视频中多角度、多表情的自然换脸，其逼真程度足以以假乱真 。
可正是这种技术的便捷性和强大功能，为侵权行为埋下了隐患。AI 换脸在诈骗领域的危害尤为严重。骗子利用 AI 换脸技术，伪装成受害者的亲友、领导等熟悉的人，通过视频通话的方式实施诈骗。他们提前收集目标对象的照片和视频资料，运用 AI 技术精准合成目标人物的脸，再结合语音合成技术模仿其声音 ，在与受害者视频通话时，能让受害者在毫无防备的情况下信以为真。
在侵犯名誉权方面，AI 换脸也成为重灾区。一些别有用心的人通过 AI 技术将他人的脸合成到低俗、违法或具有负面影响的视频中，发布到网络平台上。这不仅会误导公众，让被换脸者的形象和声誉在瞬间崩塌，还可能引发公众对其产生负面认识和评价，给当事人的生活和工作带来极大困扰 。
现行法律，难以招架的困境
面对 AI 换脸带来的侵权乱象，现行法律体系在应对时显得力不从心，暴露出诸多问题，难以有效遏制侵权行为的发生 。
从立法层面来看，目前我国并没有专门针对 AI 换脸技术的单行法律，相关规定散见于《民法典》《网络安全法》以及一些关于人工智能管理的规定中 。这些法律规范多是从传统侵权责任角度出发，如《民法典》规定未经肖像权人同意，不得制作、使用、公开肖像权人的肖像 ，但 AI 换脸侵权具有独特性，它涉及到复杂的技术流程、海量的数据处理以及难以追踪的网络传播路径，传统法律条款难以精准适用 。像《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》虽对 AI 技术应用有所规范，但在具体的侵权责任认定、赔偿标准等关键问题上，缺乏明确细致的规定 ，导致在司法实践中，法官在审理 AI 换脸侵权案件时，常常面临无法可依或法律适用模糊的困境 。
在司法实践中，侵权责任认定存在很大难度。AI 换脸技术的操作主体往往具有隐蔽性，可能是个人在网络暗处利用开源工具进行非法操作，也可能是一些地下作坊式的团伙，通过复杂的网络代理和加密手段实施侵权行为 。
证据的收集与认定也是一大难题。AI 换脸视频作为电子证据，很容易被篡改、删除或伪造。不法分子在实施侵权行为后，往往会迅速删除相关视频和数据，销毁证据 。受害者在发现侵权行为时，可能已经很难获取原始的侵权视频，即便获取到，也可能因视频被篡改而无法作为有效证据 。此外，AI 换脸技术本身的专业性，也增加了证据认定的难度。
两会发声，探索治理新路径
AI 换脸侵权问题的严重性和紧迫性，引起了两会代表委员们的高度关注，他们纷纷提出一系列切实可行的建议，为解决这一难题指明方向。
全国人大代表、小米集团创始人雷军在 2025 年两会建议案中，提出加快单行法立法进程。他认为，应在安全与发展并重的基础上提升立法位阶，明确 “AI 换脸拟声” 应用边界红线 ，让法律的界限更加清晰，为打击违法侵权行为提供有力的法律依据。同时，完善侵权证据规则，针对 AI 换脸侵权证据收集难、认定难的问题，制定专门的证据规则，降低受害者的举证难度，提高司法效率 。加大对利用人工智能技术实施犯罪行为的刑事处罚力度，增加违法成本，形成强大的法律威慑，让不法分子不敢轻易涉足 AI 换脸侵权领域 。
在强化行业自律共治方面，代表委员们呼吁压实平台企业等各方的责任和义务。平台作为内容传播的关键环节，应建立严格的审核机制，利用 AI 技术对上传的视频进行筛查，识别出可能存在 AI 换脸侵权的内容 。对涉及侵权的视频，要及时采取删除、屏蔽等措施，并将相关情况报告给监管部门 。比如，抖音、快手等短视频平台，可以通过升级算法，对视频中的人脸特征和声音特征进行比对分析，一旦发现异常，立即进行预警提示 。同时，行业协会也应发挥积极作用，制定行业自律规范，引导企业合法合规使用 AI 换脸技术，加强行业内部的监督和管理 。
加大普法宣传的广度力度也是代表委员们关注的重点。通过多种渠道和形式，增强民众的警惕性和鉴别力，提高公众对 AI 换脸侵权风险的认识 。
页:
[1]