隨着AI技術發展,視頻換臉技術門檻降低,普通人也能製作換臉視頻。記者調查發現,這項技術被用於惡搞視頻、色情視頻合成上,其不良效應也引發了社會的關注和擔憂:放任自流,任其“異化”,可能成為侵害他人合法權益和危害社會公共安全的工具。

有圖未必有真相,莫要換臉一時爽:擅自用AI給他人換臉或致侵犯肖像權 新聞 第1张人工智能 資料圖 馮晨清/圖

有圖未必有真相AI“畫皮”只需2.5元

“你要的樣子我都有”“男人瞬間變女人,毫無違和感”“用朋友圈視頻就可換臉”……近日,AI換臉視頻在不少平台上風靡。記者在某網站搜索“換臉”,出來的視頻達千條。

其中,有網友將影視劇中不同演員的臉進行互換;有人將某平台女主播瞬間“變臉”成不同女明星的樣貌;還有人則製造“假新聞”,把國外電視節目嘉賓的臉換成國內公眾人物的,標題則為國內某某在國外接受採訪……

視頻中的人物被換臉後,幾乎可以“以假亂真”,有網友評論其為“AI畫皮”“有圖未必有真相”。

在某貼吧里,與AI換臉有關的帖子超過9000條。裡面有大量明星換臉視頻的售賣信息。一個用戶在群里公開售賣換臉色情視頻,清單里的數量達150多部,並稱“全部只要58元”。在名為“明星論壇”的論壇上,有人貼出了多個換臉視頻色情網站網址。記者在淘寶網上搜索“AI換臉”等,出現了不少換臉軟件售賣信息。有的還提供換臉視頻製作服務,一個淘寶賣家表示可代為製作換臉視頻,3分鐘以內的價格為300元。記者以2.5元的價格購買了一款換臉軟件,根據教程,簡單操作就可將視頻素材中的人臉進行互換。

擅自換臉“一時爽”或致侵犯肖像權

“AI換臉技術原理並不復雜,AI將多個視頻內的人臉特徵自動提取並進行分類,再利用編碼技術,對視頻中的特定位置編碼重構合成等即可。”長期從事影視換臉業務的北京聚力維度科技公司首席技術官趙天奇介紹。“以前,相關製作費用每分鐘可達上百萬元。隨着一些AI技術的開源,換臉製作不僅價格大幅下降,門檻也不斷降低。”

中國傳媒大學政治與法律學院副院長王四新說:“目前,通過AI技術深度偽造他人的肖像、聲音主要用於網絡‘惡搞’,但仿真效果已逼近真偽難辨的邊界,隨着技術發展,結合短視頻形態的快速傳播,如果使用不當,會產生很強的負面作用。”

近期,《民法典人格權編(草案)》二審稿對此作出規定,任何組織或者個人不得以醜化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權。其他人格權的許可使用和自然人聲音的保護,參照適用有關規定。

“如果正式通過,這意味着除法律另有規定的情況外,如果用他人肖像進行AI換臉等,只要未經本人同意,即便沒有營利目的和主觀惡意,同樣有可能構成侵權。”北京大學法學院副院長薛軍說。只要換臉視頻和原視頻能達到一定相似度,經由第三方能夠識別,就可能被認作是侵權,“如將他人的臉與色情視頻中人物的臉替換,並進行傳播,則涉嫌構成傳播淫穢物品罪,需承擔相應刑事責任”。

AI換臉“雙刃劍”不能放任自流

“AI換臉技術在影視製作行業有一定的需求。有的演員在電影拍攝完成前去世了,依靠換臉技術就能在熒幕上‘復活’。”趙天奇說,AI換臉可以實現演員不在場拍攝,提升了拍攝效率,極大節省了經費。

但是,有關專家表示,應當保證新技術被正當使用,不能放任自流,任其“異化”,成為侵害他人合法權益和危害社會公共安全的工具。使用者需秉承善意使用原則,避免對新技術的濫用。

“使用者需要自律,讓工具能夠在合理合法的用途和目的上使用,需要對法律常識和公序良俗有底線意識。”薛軍說。

國內某大型短視頻應用相關負責人告訴記者,換臉視頻在審核上常常隱蔽性較強,除了涉恐或涉黃,比如一般的惡搞視頻,只能是事後用戶舉報後,平台再作處理。王四新認為,平台應完善事前處置機制,加強對違規換臉視頻的自動研判與編審,“平台如果明知視頻違法違規而不採取措施,繼續對他人和社會造成損害,平台也需承擔連帶責任”。此外,監管部門對於違法侵權視頻,要重點關注和監測。據新華社