每日經濟新聞 2024-03-19 17:10:36
◎音樂人包小柏利用AI技術“復生”了女兒包容、商湯科技的下屬公司制作湯曉鷗數字人……這些視頻在社交媒體上廣泛傳播,讓更多人看到了AI技術的強大潛力。與此同時,數十個與“AI復活”相關聯的ID出現在社交平臺上。他們表示,僅需198元—598元,便能定制一個你想要的數字人視頻。
每經記者|畢媛媛 宋美璐 每經編輯|楊夏
“真的很忙,一天加這么多,真的回復不過來”。十天前,微信名為“AI復活師”的微信好友申請已經“爆炸”。他在朋友圈發文:“加不完,根本加不完”。
音樂人包小柏利用AI技術“復生”了女兒包容、商湯科技的下屬公司制作湯曉鷗數字人……這些視頻在社交媒體上廣泛傳播,讓更多人看到了AI技術的強大潛力。
隨著這些案例的走紅,越來越多的人開始嘗試使用AI技術來“復活”逝去的親人或明星,各類AI復活真人的嘗試猶如雨后春筍般冒了出來,尤其是具備豐富數據素材庫的已逝明星:李玟、張國榮、高以翔、喬任梁,甚至于科比,均被AI“復活”了,真假難辨。
與此同時,數十個與“AI復活”相關聯的ID出現在社交平臺上。他們表示,僅需198元—598元,便能定制一個你想要的數字人視頻。
“AI復生”隨著技術發展變得更加逼真,但“火熱”生意背后仍潛藏諸多風險。
近日,李玟、張國榮、高以翔、喬任梁被AI“復活”的視頻登上微博熱搜。這些離我們遠去的公眾人物紛紛被AI技術“復活”,以視頻的形式重新回到大眾視野。
3月15日,高以翔生前經紀人轉達高以翔家人的意見稱,不希望高以翔肖像被他人任意使用,譴責并堅決抵制該行為,若不立即停止侵權行為,家人會采取法律行動;喬任梁父親也對媒體表示,無法容忍AI技術使兒子復活,這讓他感到極度不適,“我希望對方能盡快將視頻下架,他們未征求我們同意,這是在揭傷疤”。
如今,在社交平臺上搜索“AI復活”,有各種相似的賬號在活躍。通過發布科比、李玟、高以翔等已逝名人的AI視頻吸引觀眾,并以此招攬客戶,聲稱可以定制祝福、修復照片、復活親人等。
記者聯系到其中一位名為“AI復活師”的博主,該博主提供了包括“AI復活套餐”,包括“逝者照片+AI配音”“逝者照片+逝者聲音克隆”“逝者視頻+逝者聲音克隆”等服務,這些服務的價格根據內容的復雜程度和個性化需求,從198元到598元不等,發在社交平臺上的明星示例為598元版本,制作此版本,用戶只需提供10秒以上的聲音和一段有正面肖像的視頻。
說起技術,該“復活師”十分自信,“市面上基本超越不了,我們598(元)的效果,他們都是大幾千”。
除AI視頻服務外,這名“AI復活師”還表示正在收徒及尋找下游代理,可提供AI視頻制作教學服務。收徒價格為980元,僅可以學習售賣價格為198元的“逝者照片+AI配音”技術,學會后接單,每單提成50元,基本每天都會有單子。而如果要學會全套技術,學費則近2萬元。
代理的收費價格同樣為980元,收入來源包括制作業務、收徒、招收代理,提成分別為40%、40%和80%。該“復活師”建議記者選擇代理,“只需要去平臺上推廣就行,基本3天就能回本。”他表示,目前市場上需求很大,不用擔心沒單的情況,“團隊代理30多人,人手根本不夠用”。并稱,接下來會上線小程序,支持視頻通話,用戶可以直接在小程序下單。在他看來這是個很“積德”的事情,“我們客戶接觸下來,總體反饋都是特別感恩”。
所有交易都是以微信轉賬的形式進行,問及如何保證安全,對方表示,“你自己考慮”。當記者提到,其中可能涉及的侵權風險時,該“復活師”表示,“告也是告‘總部’,代理不用擔心這些”。
目前,《每日經濟新聞》記者發現該賬號已下線所有明星視頻,但在其朋友圈還能看到相關推廣,其中一條是,“訂單多,急需學徒”。
早在2016年,小冰公司就開始研究AI“復生”技術。小冰CEO李笛在接受《每日經濟新聞》采訪時曾提醒,比起AI復生帶來的好處,更需要擔心其被濫用的風險。
“當大量沒有嚴格自我規范的企業進入市場時,他們可能會借助人們的情感需求進行勒索,其中包括個人隱私數據以及金錢。”李笛說,對于普通公眾,“AI復生”的價格可以不貴,昂貴的地方在于一旦被濫用后產生的巨大破壞力。
一語成讖,擔憂的事情很快應驗了。在這場關于AI復活技術的倫理和法律風暴中,輿論的喧囂和爭議不斷升級。
隨著AI技術的快速發展和普及,生成視頻的成本和難度正在迅速降低。過去人們難以想象離開后還能以數字形式“復活”于這個世界,但現在這個問題已經變得不再遙遠。
誰在為“AI復生”買單?“AI復生”這門生意背后有哪些風險?
北京市京師律師事務所合伙人王榮梅、實習律師孔嘉琦(下稱“王榮梅團隊”)在接受《每日經濟新聞》記者的采訪時表示:“根據《中華人民共和國民法典》,死者肖像權等人格利益受法律保護,未經其近親屬允許,擅自使用死者人臉信息利用AI技術制作視頻推廣盈利構成侵權,其近親屬可向侵權者主張承擔民事責任。”
王榮梅團隊還提到,《互聯網信息服務深度合成管理規定》第14條規定,死者在生前作為其肖像權的權利人,有權同意或拒絕他人在其生前或死后對其肖像權的使用,若其明示拒絕在死后任何人以AI技術對其肖像進行使用,任何第三人包括其近親屬均無權使用AI技術對其進行“復活”。
當死者肖像權被侵害時,死者近親屬可以向人民法院提起訴訟維護死者人格利益,既可以根據《中華人民共和國民法典》第179條的規定要求行為人承擔民事賠償責任,也可以根據《民法典》第996條和《最高人民法院關于確定民事侵權精神損害賠償責任若干問題的解釋(2020修正)》第3條的規定向行為人主張精神損害賠償。
然而,侵害權益的責任并不僅在于制造人。作為平臺方,也有責任對涉嫌侵權的內容進行審查并及時下架。王榮梅團隊進一步稱,《中華人民共和國民法典》第1195條規定,網絡用戶利用網絡服務實施侵權行為的,權利人有權通知網絡服務提供者采取刪除、屏蔽、斷開鏈接等必要措施。網絡服務提供者接到通知后,應當及時將該通知轉送相關網絡用戶,并根據構成侵權的初步證據和服務類型采取必要措施;未及時采取必要措施的,對損害的擴大部分與該網絡用戶承擔連帶責任。
因此,平臺作為管理者,應承擔對涉嫌侵權的內容進行審查并下架的責任。如平臺未及時采取相應措施,應與侵權行為人共同承擔連帶責任。
AI數字人以驚人的速度席卷到大家的日常視野中。《每日經濟新聞》記者發現,市面上除了做逝去親人的“復活”視頻外,就以做明星相關的數字人視頻為主。“除了做明星,普通人誰會做AI視頻?”某位“AI復活師”告訴記者。
隨著技術實現難度的降低,人們越來越難以分辨視頻中的真假。例如,某段視頻中,周杰倫“親口”推薦的投資項目,若不仔細辨認,很難發現那其實是“數字人”。
“定制祝福”,同樣是AI復活產業鏈中的重要一環。2023年底,據新京報報道,明星送祝福已明碼標價形成了產業鏈,價格從800元至10萬元不等。當AI介入后,無論多大牌的明星,最高幾百元便能為你量身定做一段祝福。
AI復活技術仿佛打開“潘多拉魔盒”。日前,商湯科技數字空間事業群數字文娛事業部總經理欒青在接受《每日經濟新聞》記者的采訪時表示,目前從技術本身來講,我們只要十幾秒、二十秒的素材就可以制作一段數字人視頻。“普通人想做,肯定是做得起的。我看到新聞1萬元左右就能‘復活’親人,大概就在這樣的范圍,甚至有些簡單的視頻價格可以更低。”
“過去想要用AI‘復生’一個人的性格和三觀,可能需要兩到三個月的時間,而現在,這一過程可能僅需一到七天。”李笛亦對記者表示。
目前,大家對于如何解決AI“復生”的風險問題還沒有明確的答案。就連包小柏在表達對女兒的思念時,也不忘提醒公眾警惕AI技術詐騙的風險,呼吁大家好好保留生前的數據資料,不要輕易交給外人。
封面圖片來源:短視頻平臺截圖
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP