深度合成算法讓人秒變視頻主人公

“AI換臉”的法律邊界在哪里?

(資料圖片僅供參考)

只要下載某款軟件,就能輕易把自己的五官投到原本的演員臉上,享受“參演”電影、電視劇、短視頻的快感。近年來,“AI換臉”走紅網絡,無論是在手機應用商城還是社交平臺、短視頻平臺,都能看到不少提供“AI換臉”服務的App和小程序,只需上傳一張照片,經過深度合成算法處理,就能秒變視頻主人公。

然而,“AI換臉”的趣味性背后暗藏不少法律風險和侵權糾紛。

近日,杭州互聯網法院審理了一起因“AI換臉”App利用深度合成算法侵害他人肖像權的案件,判定App開發者構成對原告肖像權的侵害。

“AI換臉”技術的法律邊界在哪里?開發商提供“AI換臉”服務、用戶制作上傳“AI換臉”視頻存在哪些法律風險?帶著這些問題,《法治日報》記者采訪了相關業內人士。

同類軟件大量存在

一鍵即可輕易換臉

在杭州互聯網法院審理的這起案件中,原告樓某某是一名古風漢服模特,經常在社交平臺發布古風漢服照片和視頻。樓某某發現被告公司運營的“AI換臉”App中使用的是其拍攝的古風造型視頻模板。用戶可通過上傳個人照片,將視頻模板中的人臉替換成用戶上傳的人臉,除五官發生實質性變化之外,其余內容都與原視頻保持一致。軟件生成換臉后的古風造型視頻,用戶可以將其保存并分享到其他平臺。

法院審理認為,被告公司未經樓某某同意,利用深度合成技術使用其肖像制作了偽造視頻,依法應認定為構成對樓某某肖像權的侵害。法院判決被告向樓某某賠禮道歉并賠償損失5000元。

按照《互聯網信息服務深度合成管理規定》給出的定義,深度合成技術是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。其中包括人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特征的技術;圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術等。

記者調查發現,利用該技術的“AI換臉”App和小程序大量存在。在手機應用商城,搜索“AI換臉”等關鍵詞,有不少相關App推薦,如“AI視頻換臉秀”“一鍵face換臉”“換臉寶”“顏技”等。在某社交平臺上搜索“換臉”,也能看到不少“AI換臉”的小程序,如“AI換臉變裝”“換臉AI”等。

記者在手機應用商城下載了熱度最高的“AI視頻換臉秀”App。該App有多款換臉模板可供選擇,包括AI繪畫、漢服、氣質美女、甜美風、婚紗等,一鍵上傳照片便可生成換臉視頻。

上傳照片時,該App還會彈出提示:“請確保你使用的照片獲得本人授權同意,嚴禁使用未獲得本人授權同意的照片。如因照片未授權對他人肖像權造成侵犯所產生的法律責任由本人承擔。”

要想在這些App和小程序上使用“AI換臉”功能,有些需要付費,如單次購買19.9元、月會員38元、永久會員168元;也有些免費,一般用戶每日可享受一次免費“AI換臉”的機會,用完免費次數后可通過瀏覽視頻廣告獲取權限。

林琳(化名)是一位在某短視頻平臺上擁有近30萬粉絲的仿妝博主,經常發布一些仿影視作品角色妝容的視頻。今年2月,林琳發布了一條《倚天屠龍記》丁敏君的仿妝視頻,該視頻點贊量破3萬。但是視頻發布不久后,她點開“丁敏君仿妝”的話題詞條,發現里面有條點贊量破千的視頻竟是用她拍攝的原創視頻“AI換臉”生成的,她點開該博主的主頁后發現里面均是“AI換臉”生成的視頻。

林琳說,她已經不是第一次遇到視頻被“AI換臉”App盜用了,去年就有很多換臉App盜用了她的視頻當素材,并且用戶使用這些素材都是需要付費的。她當時找了這些App的客服溝通,但對方只在當時下架了她的視頻,之后類似的事仍然頻繁發生,以至于有粉絲質疑她的視頻是否也是“AI換臉”制作而成的。

故意使用明星肖像

打擦邊球博取流量

記者在調查中發現,明星肖像在換臉類App中存在濫用情況。一些“AI換臉”的App或小程序在使用明星的圖片制作換臉視頻進行推廣。在某短視頻平臺內搜索“換臉”就能看到不少利用明星肖像換臉的視頻,甚至部分網友還會利用明星肖像換臉剪輯一些搞笑視頻或者熱舞視頻以博取關注。

例如,一條名為“四郎現場跳《red》”的視頻,就是利用“AI換臉”將《甄嬛傳》男主角的臉替換了原舞蹈MV中韓國女星的臉。該視頻的瀏覽量破百萬,點贊量超過兩萬。

與此同時,記者發現,在明星肖像換臉的視頻中,有不少是短視頻博主將女明星的五官換至含不雅內容的視頻中,用打擦邊球的方式吸引流量。今年8月,某女星的粉絲在粉絲超話發帖稱,在某短視頻平臺看到一位博主發布用該女星肖像換臉的視頻,希望大家去平臺舉報。

順著該粉絲提供的線索,記者在某短視頻平臺找到了該博主,發現這位博主的名字正是以該女明星飾演過的角色命名,其發布了500多條短視頻,其中許多是用該女明星的肖像“AI換臉”生成的,并且不少都是博人眼球的擦邊球視頻,如性感唱跳等。目前,該博主已擁有近80萬粉絲。

因不堪其擾,一些明星選擇維權。2021年8月,劉昊然工作室發布聲明稱,有人利用“AI換臉”技術傳播對劉昊然帶有侮辱性的視頻、截圖,同時含有誹謗言論的聊天記錄。該工作室表示已向警方報案。2021年9月,林俊杰因個人肖像被短視頻博主用“AI換臉”技術制作了大量的鬼畜視頻,起訴了平臺及該博主,要求其賠禮道歉并索賠27.5萬元。然而,時至今日,在被林俊杰起訴的博主主頁中,仍有大量明星肖像換臉視頻存在。

隨意使用涉嫌侵權

技術服務亟須規范

“‘AI換臉’屬于深度合成技術,隨意使用可能有肖像權和名譽權侵權的風險。”中國傳媒大學文化產業管理學院法律系主任鄭寧說。

按照民法典規定,任何組織或者個人不得以丑化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意,不得制作、使用、公開肖像權人的肖像,但是法律另有規定的除外。未經肖像權人同意,肖像作品權利人不得以發表、復制、發行、出租、展覽等方式使用或者公開肖像權人的肖像。

“無論個人還是平臺、軟件開發商,未經肖像權人同意,通過技術手段提取肖像,并擅自使用或上傳至換臉App中供用戶選擇使用的行為都侵害了他人肖像權。”鄭寧說。

鄭寧還提到,民法典還規定民事主體享有名譽權,“如果有人將他人的臉換到不雅視頻中,或者利用換臉軟件對他人進行惡意丑化,就有可能侵犯他人的名譽權”。

北京盈科(重慶)律師事務所高級合伙人律師劉智說,“AI換臉”還有可能被刻意應用從事一些不法行為。在他辦理過的一起虛開增值稅發票案中,嫌疑人為了設立“空殼公司”來開票,在設立公司階段,找人利用“AI換臉”技術對相關人員身份證進行換臉。

在劉智看來,技術對人類生活、工作影響深遠,但“技術中立”并不能成為規避責任和義務的理由。國家互聯網信息辦公室、工業和信息化部、公安部聯合發布的《互聯網信息服務深度合成管理規定》,為深度合成服務劃定了“底線”和“紅線”,強調不得利用深度合成服務從事法律、行政法規禁止的活動,要求深度合成服務提供者落實信息安全主體責任。該規定的出臺,對規范“AI換臉”有很大的促進作用。

“若有視頻創造者發現自己的視頻被‘AI換臉’App運營商盜用,視頻所有人可以通過提起民事訴訟方式要求運營商承擔停止侵權、賠禮道歉并賠償損失等民事責任。如發現自己的視頻被人用于違法犯罪,可向公安機關報案追究相關人的法律責任。”劉智說。

關鍵詞： 法律風險