“眼见不一定为实” AI换脸一键生成暗藏侵权风险

央视网消息（记者/李东旭）：随着人工智能技术的发展，AI换脸技术的门槛越来越低，鼠标一点就能轻轻松松“大变活人”。在各类短视频平台上，人们经常能刷到AI生成的换脸内容。一些公司还专门开发出AI换脸App，设有多个可供用户选择的付费模板，用户只需上传一张照片，等待30秒，就可以完成脸部替换，一键生成惟妙惟肖的片段。

央视网《新闻+》记者尝试下载了一款换脸软件，看到在视频换脸功能板块里有“钢铁侠”“东方不败”等众多影视类模板，一些短视频平台上的搞笑视频也在分类的模板序列之中。记者上传照片后点击导出视频时，却被提示需要开通49元/月的会员才可下载生成的AI视频。该软件的下载评论区显示，有网友认为AI换脸功能新鲜有趣，但也有网友对视频是否侵权产生了疑问。

“被AI换脸软件盗视频做模板了！”近日，深圳市南山区人民法院就审理了一起换脸软件侵犯肖像权的案例。赵某是一名拥有5.6万粉丝的短视频博主，经常在网络平台上发布古风造型的视频。2022年，赵某发现某软件未经授权擅自将自己发布的原创视频当作模板，用户点击就可实现“换脸”，购买软件会员后还可以无水印导出换脸视频。9月，赵某以该软件的所属公司侵害其肖像权并非法牟利为由将该公司诉至法院，要求删除相关侵权视频及链接，公开道歉并赔偿经济损失、维权费用共计5万余元。

深圳市南山区人民法院林陈纯法官在接受央视网《新闻+》记者采访时指出，此案涉及到新兴技术引起的纠纷的法律适用问题。“用户通过软件生成的AI换脸视频，即使面部已经被替换，但结合肢体动作、装饰装束等身体形象以及场景细节等要素，还是能和博主的原创视频建立对应关系。本案中，可以认定赵某对模板视频及替换后视频中的人物肖像均享有肖像权。”林陈纯法官表示，这是对肖像权的延伸保护。

“未经他人授权，使用含有他人肖像的视频内容供用户‘换脸’，侵权方就应承担相应的法律责任。”林陈纯法官称，在《民法典》施行之前，侵犯肖像权的认定是需以营利为目的，《民法典》施行后，“即使不以营利为目的，只要未经他人同意，使用他人肖像，就构成侵权”。

判决书显示，该换脸软件公司在赵某起诉后已删除模板视频及链接，深圳市南山区人民法院判令该公司向赵某赔礼道歉，并赔偿财产损失及合理维权费用等共计5000元。一审判决作出后，被告公司不服提起上诉，后经法院调解，双方达成调解协议，被告公司同意支付赵某经济损失及合理开支5250元。

“现有法律没有针对AI技术应用的详细规定，需要法院在个案中对相关问题进行探索。法官需要理解AI技术的原理和影响，以便准确认定侵权事实和责任。如何鉴定AI合成视频的真实性以及确认侵权行为的证据，是该类案件中法律适用的难点。”林陈纯法官告诉央视网《新闻+》记者，随着AI技术的发展，此类侵权案件也在增多。她介绍，部分“AI换脸”视频判例除侵犯肖像权案件外，还包括著作权侵权的民事案件，利用AI技术换脸、变声实施诈骗的刑事案件数量在近年来也有快速增长的趋势。

上海市高级人民法院近期公布了一起因提供“AI换脸”服务引发的著作权侵权纠纷案。从事古风人像摄影的陈女士在某短视频平台上开设实名认证账号，并发布其自行创作的短视频。一天，陈女士发现上海某科技公司运营的一款名为“某颜”的小程序里设置的AI生成“一键换脸古风汉服”板块中，展示的部分模版素材竟与自己平台账号中发布的短视频如出一辙。不仅如此，陈女士还发现，用户仅需将自己的照片上传至“某颜”小程序，点击观看30秒广告后即可制作“AI换脸”古风汉服形象并免费保存到手机相册中。因此她向上海市嘉定区人民法院起诉，要求上海某科技公司立即下架侵权视频，赔礼道歉并赔偿经济损失及维权合理费用。最终，嘉定区人民法院判决上海某科技公司赔偿陈女士经济损失及合理维权费用共计7500元。

图源：新华社

“AI换脸技术使得眼见不一定为实。”中国知识产权法学研究会副秘书长姚欢庆对央视网《新闻+》记者表示，很多人认为技术是中立的，因此深度合成技术是一种中性工具。对此，我们有必要认识到，深度合成技术本质上是一种“伪造”，是制造一种与真相、真实不相符的“新事实”的过程。虽然“AI换脸”可以作为一种工具用于特定产业产生正面价值，但鉴于其本质上是制造“假象”的过程，容易产生误导公众的结果，故这一技术并不具有当然的中立性，也不具有当然的正当性。在立法和司法实践中，对这种技术的应用应当保持一种警惕的态度。使用技术的主体有义务证明使用行为的正当性，并加以标识。“正如生物学上的人类基因编辑、克隆技术等一样，总是先由立法划出底线，然后在此基础上发展。”

“作为法官，我们期待相关法律法规的修订和完善，以适应AI技术的发展。在办理相关案件时，也希望能进一步加强与技术专家的合作，提升法官在面对新类型案件时，对事实认定的能力，有效维护社会公共利益和个人权益。”林陈纯法官说道。