“AI换脸”App替换古风模特肖像制作伪造视频，法院判决开发者赔礼道歉并赔偿5000元

21世纪经济报道 记者诸未静 上海报道

“AI换脸”正在走红网络，只需一张照片，经过深度合成算法处理就能秒变视频主人公，不过 “换脸”也伴随着法律风险和侵权纠纷。

近日，杭州互联网法院审理了一起因“AI换脸”App利用深度合成算法侵害他人肖像权的案件，最终判决App开发者赔礼道歉并赔偿损失共5000元。

原告楼某某系国内古风汉服模特，经常发布古风汉服照片和视频。今年3月，其在某短视频平台发布一段短视频。在该视频中，楼某某带有清晰的面部古风妆容，并着汉服半身出镜，视频包括多段造型形象片段。

被告上海某公司（以下简称“A公司”），是一款“AI换脸”App的运营主体。该App宣传“仅需一张照片，立即变成视频主角”“只需一张自拍，马上改头换面”。用户通过支付68元至198元不等的会员费，即可使用全部“换脸”视频模板。

原告楼某某发现，被告A公司运营的“AI换脸”APP中有楼某某拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户上传的人脸，除五官发生实质性变化之外，其余内容都与原视频保持一致。软件生成换脸后的古风造型视频，用户可以将其保存并分享到其他平台。

楼某某认为，A公司的行为侵害其肖像权，请求法院判令A公司承担停止侵权、赔礼道歉并赔偿损失。

杭州互联网法院经审理认为，民法典明确将“不得利用信息技术手段伪造等方式侵害他人的肖像权”，作为侵害肖像权的一种典型形态予以规制。“利用信息技术手段伪造”是指利用信息技术手段编造或者捏造他人肖像，以假乱真，以达到利用不存在的事物来谋取非法利益的目的。

本案中，楼某某对案涉要素模板视频及替换后视频中所载对应形象的人物肖像均享有肖像权。对于换脸前的视频，楼某某虽以古风妆容并着汉服出镜，但从其面部形象、体貌特征，普通人仍可对其主体身份进行轻易识别。该视频被上传至App作为模板供他人使用时，视频内容未做篡改，亦不发生主体形象不可识别的问题。对于换脸后的视频，楼某某仅留存身体形象，但对比原视频素材，普通人仍能通过未被修改的相应场景和细节识别出身体形象对应主体为楼某某。

被告A公司未经楼某某同意，通过技术手段提取涉案古风肖像视频，并擅自上传至其运营的换脸App中供用户选择使用，该行为本身已侵害楼某某肖像权。同时，涉案视频模板已被用户多次使用和收藏，可以认定A公司利用深度合成技术将其他用户提供的人脸替换至涉案视频中的身体形象之上，并生成了形象逼真、画面流畅的伪造肖像视频，可供用户进行下载保存、发布共享等不当使用。

综上，被告A公司未经楼某某同意，利用深度合成技术使用其肖像制作了伪造视频，依法应认定为构成对楼某某肖像权的侵害。

双方当事人均服判息诉，目前判决已生效。

深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括人脸生成、人脸替换、人脸操控等图像、视频内容中人脸等生物特征进行生成或者编辑的技术。 

“不得利用信息技术手段伪造等方式侵害他人的肖像权”，主要是指利用人工智能合成内容技术深度伪造他人肖像的行为，即通过人工智能技术，以数字化方式创建或者修改图片、影像等内容，将某人的肖像换成他人的肖像，并在此基础上形成高度逼真且难以甄别的图像、视频等。结合一般肖像权侵权的构成要件可知，以人工智能合成内容技术深度伪造形态侵害他人肖像权的具体构成要件应为：自然人对特定肖像享有肖像权；行为人未经同意利用信息技术手段对权利人的肖像进行篡改、伪造和自动生成等，产生逼真且难以甄别效果。

首先，在认定深度合成技术是否侵犯了某人肖像权时，无论其在深度合成技术中被使用的是面部形象还是身体形象，是局部形象还是整体形象，均应以可被识别性标准作为认定该形象是否为特定主体肖像的核心标准，当某一身体形象能够被识别为特定自然人所属时，便符合了肖像的可被识别标准；其次，对已公开特别是为公众所熟知的影像，从社会一般普通人的视角，能够通过视频中属于原有视频素材的未被修改的相应的场景和细节识别出身体形象的所有人，该身体形象因符合可被识别标准而能够被认定为特定主体的肖像，身体形象的所有人对“深度伪造”视频中的身体形象享有肖像权；最后，对此前未公开且不为社会公众所知的影像，只要权利人穷尽所有识别手段，能够证明自己系该身体形象的所有人，即使一般人未将该形象与形象所有人建立联系，仍应肯定其对该形象享有肖像权利。

深度合成技术的应用，破坏了肖像与主体的同一性。一方面，面部形象的主人有权拒绝将其面部转移至他人身体形象中；另一方面，身体形象的主人亦应有权利拒绝其身体形象被冠以他人之面目，这均是由肖像权的绝对性、专属性、排他性等权利特征所决定的。与此同时，“换脸”等深度合成技术需要获取大量人脸图像中的特征数据信息，包括五官、表情等内容，而人脸信息属于个人信息保护法予以特殊保护的生物识别信息。法律对于人脸识别信息等紧密依附于身体、直接体现个人身体特征和行为特征，对人身具有直接指向性的敏感个人信息予以特别保护。据此，深度合成服务提供者提供人脸等生物识别信息编辑功能的，必须具有特定的目的和充分的必要性，采取严格保护措施，并取得被编辑的个人信息主体的单独授权。

需要指出的是，技术中立并不意味着价值中立，特别是开发、应用者的价值中立，更不等于深度合成的参与者不应当受到来自法律的规制、道德伦理的约束。算法的独特性质，如不透明性、歧视性和归责困难的特征确需法律对其进行特殊规制。概而言之，应当在场景化思维下着重把握算法设计、算法应用和救济三个阶段。在算法设计时，建立评估备案制度，并将技术伦理和道德伦理嵌入算法开发、设计，使算法开发、设计时就兼备人情与法理。在算法应用时，提高算法的透明度，刺破算法笼罩的神秘面纱，并充分保护个人信息、数据权益。在救济阶段，应构建、强化算法问责机制，使算法问责过程兼具救济与惩戒。