“眼見不一定為實” AI換臉一鍵生成暗藏侵權風險

央視網消息（記者/李東旭）：隨著人工智慧技術的發展，AI換臉技術的門檻越來越低，鼠標一點就能輕輕鬆鬆“大變活人”。在各類短視頻平臺上，人們經常能刷到AI生成的換臉內容。一些公司還專門開發出AI換臉App，設有多個可供用戶選擇的付費模板，用戶只需上傳一張照片，等待30秒，就可以完成臉部替換，一鍵生成惟妙惟肖的片段。

央視網《新聞+》記者嘗試下載了一款換臉軟體，看到在視頻換臉功能板塊裏有“鋼鐵俠”“東方不敗”等眾多影視類模板，一些短視頻平臺上的搞笑視頻也在分類的模板序列之中。記者上傳照片後點擊導出視頻時，卻被提示需要開通49元/月的會員才可下載生成的AI視頻。該軟體的下載評論區顯示，有網友認為AI換臉功能新鮮有趣，但也有網友對視頻是否侵權産生了疑問。

“被AI換臉軟體盜視頻做模板了！”近日，深圳市南山區人民法院就審理了一起換臉軟體侵犯肖像權的案例。趙某是一名擁有5.6萬粉絲的短視頻博主，經常在網絡平臺上發佈古風造型的視頻。2022年，趙某發現某軟體未經授權擅自將自己發佈的原創視頻當作模板，用戶點擊就可實現“換臉”，購買軟體會員後還可以無水印導出換臉視頻。9月，趙某以該軟體的所屬公司侵害其肖像權並非法牟利為由將該公司訴至法院，要求刪除相關侵權視頻及鏈結，公開道歉並賠償經濟損失、維權費用共計5萬餘元。

深圳市南山區人民法院林陳純法官在接受央視網《新聞+》記者採訪時指出，此案涉及到新興技術引起的糾紛的法律適用問題。“用戶通過軟體生成的AI換臉視頻，即使面部已經被替換，但結合肢體動作、裝飾裝束等身體形象以及場景細節等要素，還是能和博主的原創視頻建立對應關係。本案中，可以認定趙某對模板視頻及替換後視頻中的人物肖像均享有肖像權。”林陳純法官表示，這是對肖像權的延伸保護。

“未經他人授權，使用含有他人肖像的視頻內容供用戶‘換臉’，侵權方就應承擔相應的法律責任。”林陳純法官稱，在《民法典》施行之前，侵犯肖像權的認定是需以營利為目的，《民法典》施行後，“即使不以營利為目的，只要未經他人同意，使用他人肖像，就構成侵權”。

判決書顯示，該換臉軟體公司在趙某起訴後已刪除模板視頻及鏈結，深圳市南山區人民法院判令該公司向趙某賠禮道歉，並賠償財産損失及合理維權費用等共計5000元。一審判決作出後，被告公司不服提起上訴，後經法院調解，雙方達成調解協議，被告公司同意支付趙某經濟損失及合理開支5250元。

“現有法律沒有針對AI技術應用的詳細規定，需要法院在個案中對相關問題進行探索。法官需要理解AI技術的原理和影響，以便準確認定侵權事實和責任。如何鑒定AI合成視頻的真實性以及確認侵權行為的證據，是該類案件中法律適用的難點。”林陳純法官告訴央視網《新聞+》記者，隨著AI技術的發展，此類侵權案件也在增多。她介紹，部分“AI換臉”視頻判例除侵犯肖像權案件外，還包括著作權侵權的民事案件，利用AI技術換臉、變聲實施詐騙的刑事案件數量在近年來也有快速增長的趨勢。

上海市高級人民法院近期公佈了一起因提供“AI換臉”服務引發的著作權侵權糾紛案。從事古風人像攝影的陳女士在某短視頻平臺上開設實名認證賬號，併發布其自行創作的短視頻。一天，陳女士發現上海某科技公司運營的一款名為“某顏”的小程序裏設置的AI生成“一鍵換臉古風漢服”板塊中，展示的部分模版素材竟與自己平臺賬號中發佈的短視頻如出一轍。不僅如此，陳女士還發現，用戶僅需將自己的照片上傳至“某顏”小程序，點擊觀看30秒廣告後即可製作“AI換臉”古風漢服形象並免費保存到手機相冊中。因此她向上海市嘉定區人民法院起訴，要求上海某科技公司立即下架侵權視頻，賠禮道歉並賠償經濟損失及維權合理費用。最終，嘉定區人民法院判決上海某科技公司賠償陳女士經濟損失及合理維權費用共計7500元。

圖源：新華社

“AI換臉技術使得眼見不一定為實。”中國知識産權法學研究會副秘書長姚歡慶對央視網《新聞+》記者表示，很多人認為技術是中立的，因此深度合成技術是一種中性工具。對此，我們有必要認識到，深度合成技術本質上是一種“偽造”，是製造一種與真相、真實不相符的“新事實”的過程。雖然“AI換臉”可以作為一種工具用於特定産業産生正面價值，但鋻於其本質上是製造“假象”的過程，容易産生誤導公眾的結果，故這一技術並不具有當然的中立性，也不具有當然的正當性。在立法和司法實踐中，對這種技術的應用應當保持一種警惕的態度。使用技術的主體有義務證明使用行為的正當性，並加以標識。“正如生物學上的人類基因編輯、克隆技術等一樣，總是先由立法劃出底線，然後在此基礎上發展。”

“作為法官，我們期待相關法律法規的修訂和完善，以適應AI技術的發展。在辦理相關案件時，也希望能進一步加強與技術專家的合作，提升法官在面對新類型案件時，對事實認定的能力，有效維護社會公共利益和個人權益。”林陳純法官説道。