AI「復活」逝者,暗藏哪些風險?

2025年04月05日18:23:05 科技 1996

清明節前一天,浙江嘉興的朱女士在某電商平台找到一商家,提供了逝世母親的照片和一些信息,委託商家使用AI技術製作視頻,「復活」了去世多年的母親。朱女士說,視頻中,母親的容貌再次出現眼前,並對她說著一些鼓勵話,雖然這只是一個虛擬的視頻,卻讓她感受到了久違的溫暖。

今年清明節期間,利用AI技術「復活」親人再次成為熱議話題。近日,記者調查了解到,在多個電商平台,只需輸入AI「復活」關鍵詞,就能找到大量相關商家和方案,僅需一張照片和文字信息,即可實現讓照片中的人動起來,不僅開口說話,還能復活原聲。售價從幾元、幾十元到上百元不等。

清華大學國家信息研究中心副研究員、清華大學計算機系人工智能通識教育(AIGE)研究中心副主任王東稱,AI「復活」是利用人工智能技術模擬生成逝者數字形象的應用。該技術初衷是幫助人們緬懷和紀念親人,通過模擬生成數字形象實現音容再現,滿足人們與逝去親人再次見面的渴望,提供一種具象的追憶方式。

然而,王東表示,技術的溫情背後也暗藏爭議,甚至帶來隱私泄露和侵權的風險。需要明確的是,對技術應用和人機邊界的把握始終是關鍵,相關部門需加強監管,避免技術濫用。

逝者家人:

讓人在情感上得到一定滿足

不久前,山東青島市的劉女士說,出於對已去世奶奶的思念,她提供了奶奶的照片和生前一段語音,起初她只是嘗試AI「復活」,沒想到卻收穫了一場跨越時空的溫暖重逢。視頻中,熟悉的聲音在她耳邊響起,就好像奶奶還在身邊一樣。「有人可能認為這是一種虛假的安慰,會讓人沉迷於過去無法自拔。但是,正是因為分別如此痛苦,才需要一些安慰和情感寄託來幫助我們更好地走下去。」她說。

劉女士也表示,雖然AI「復活」視頻讓人在情感上得到一定滿足,但真正的治癒還是來自內心深處的自我修復過程,而不是外部手段的介入。

AI「復活」逝者,暗藏哪些風險? - 天天要聞

與此同時,河北衡水市的於先生和來自山西臨汾市的郭女士均表示,出於對逝去親人的尊重和傳統,他們不會選擇用AI「復活」親人。但是,他們對此做法表示理解,因為AI「復活」能為生者帶來心靈慰藉,重振生活信心,讓思念有處表達,發揮了技術的積極作用。「但應理性看待這項技術,既要珍惜它帶來的正面影響,也要警惕潛在風險。」

六六(化名)是一名AI技術愛好者。近兩年,他利用AI幫上千人「復活」親人。他表示,輸入一張已逝親人的照片和一段生前的錄音,不但可以讓照片動起來,還可以模擬親人的聲音和語氣講話。如果生前的視頻資料更豐富,還可以定製親人的「數字人」,他希望能發揮技術的正面作用,用這種方式更好地療愈有需要的普通人。

人工智能專家、中國電子商務專家服務中心副主任郭濤表示,「AI復活親人」現象的興起,得益於技術、心理需求與社會趨勢的共同推動。在技術上,深度學習、NLP和GANs等AI技術的成熟,使語音、外貌和對話模擬成為可能,且商業化服務價格低至幾元,形成了情感消費市場。在心理層面,人類對親情延續的渴望,尤其是喪失親人後的心理創傷,促使技術成為情感代償工具,幫助生者緩解思念之苦。在社會趨勢方面,殯葬行業引入AI數字人服務,電商平台推出低價套餐,加速了技術的普及。這一現象既滿足了人們對科技進步的好奇,也探索了生命、記憶與情感之間的深厚聯繫。

郭濤說,在此情況下,用戶心理也呈現顯著的雙面性。在積極層面,技術為喪親者提供「未竟對話」的情感出口;在消極層面,部分用戶陷入「虛擬依賴症」,過度沉溺虛擬互動導致現實社交障礙,更有不法分子利用AI偽造親人影像實施詐騙。這種心理本質是人類對親情延續的本能渴望,卻也暗藏逃避現實、混淆虛實的風險,需警惕技術從「情感橋樑」異化為「心理牢籠」。

商家:「AI復活親人」產品

標價低至幾元錢

據了解,當前,一些殯葬服務公司正利用「AI創造性內容」的風口,把對逝者的愛和懷念轉化為數字產品,使家屬能夠與逝去親人的數字化形象進行對話,幫助他們在悲痛中找到一絲安慰。多地陵園也引入AI技術「復活」逝者,使親屬與AI數字親人實現實時對話。

AI「復活」逝者,暗藏哪些風險? - 天天要聞

圖片電商平台上的AI「復活」產品服務和商家(央廣網發 圖片來源於網絡截圖)

在多個電商平台和社交平台,AI「復活」已形成了一門生意。記者以AI「復活」為關鍵詞,在電商平台進行搜索後,部分商家展示了多種「AI復活親人」產品,這些產品包括圖片、視頻等,價格在幾元、幾十元到上百元不等。

據商家介紹,消費者只需提供一張照片即可,對於視頻語音,可由客戶提供,也可由商家提供。一些商家還出售「AI製作代復活親人視頻教程」,或者備註「收徒」,並標明了「短視頻新賽道輕鬆火爆全平台副業項目」等字眼。

記者發現,在一些短視頻平台,也出現類似服務。在一些AI「復活」內容和商家視頻下面,不少網友留言表示願意花錢購買這項服務,並紛紛下單。

AI「復活」逝者,暗藏哪些風險? - 天天要聞

圖片有AI「復活」教程被售賣(央廣網發 圖片來源於網絡截圖)

王東介紹,AI「復活」親人背後的技術原理可以歸結為兩點,一是個性特徵提取,二是生成式音視頻模型。王東表示,如果讓親人和人對話,那就需要應用語音識別和語言理解能力,這種能力目前已經比較成熟,特別多模態大模型技術的發展讓這種對話能力變得越來越強大。

郭濤介紹,當前新技術路徑按複雜度與成本分為三級:基礎層利用AI開源工具實現照片動態化,收費幾十元甚至低於10元,但效果生硬;進階層結合語音克隆(需60秒以上音頻)與虛擬形象驅動,收費500-2000元,可實現簡單對話;高級層依託大模型訓練構建數字人交互系統,需1分鐘視頻及生活語料,收費超萬元,能模擬逝者「記憶」並進行深度互動。不同層級技術的成熟度與成本差異,形成了從基礎到高階的服務矩陣。

科技博主黃海峰說,目前,雖然AI「復活」在語音合成上可打造高度逼真自然的聲音,圖像生成可呈現逼真的動態人物形象,對話交互能模擬特定人物語言風格對話,但在複雜邏輯和深度知識上尚存不足。合適的深度學習算法只是起點,還需要專業團隊進行針對性調優。

專家:AI「復活」

面臨倫理和法律雙重挑戰

據此前媒體報道,一些網絡博主使用AI技術「復活」逝世明星的做法引發爭議。郭濤表示,AI「復活」現象帶來了倫理和法律的雙重挑戰。倫理上,未經授權的「復活」可能侵犯逝者人格權,尤其是公眾人物易被濫用。此外,虛擬形象與逝者真實意志的衝突,可能模糊生死界限,引發身份認同問題。法律上,根據《中華人民共和國民法典》第九百九十四條規定,擅自使用死者肖像需近親屬同意,否則需承擔民事責任。傳播平台也需對侵權內容承擔連帶責任,但當前標註規範執行不足。同時,構建數字人涉及大量敏感信息,存在泄露風險,且用戶與數字人交互產生的行為數據可能被不當利用。

中國政法大學知識產權研究中心特約研究員、嘉濰律師事務所趙佔領律師表示,AI「復活」主要涉及到民法典所規定的肖像權以及聲音相關的權益,未經其法定繼承人的同意,不能使用AI軟件或其他方式去合成其肖像或聲音,否則構成侵權。此外,平台商家未經他人同意將他人的AI「復活」資料案例,作為展示宣傳使用,同樣構成侵權。

趙佔領還表示,使用AI合成的圖片或視頻進行詐騙,還涉及刑事犯罪。對於這種情況,一般受眾和用戶可能很難辨別真假,因此群眾更需警惕和防範,如遇到類似借款等請求,一定要通過可靠的方式進行核實驗證。

王東認為,AI「復活」親人展現了AI技術的強大,也是AI技術正面應用的一個典範。然而,同樣的技術如果不當使用,可能還會帶來極大風險。首先,有不法分子可能會用虛假生成的音視頻進行勒索、詐騙,會給受害人帶來經濟損失。比如,2020年,一家英國能源公司的CEO被虛假電話欺騙,他當時以為是在和德國母公司的老闆在通話,但對方其實是用了聲音轉換技術變了聲音的騙子。這通電話讓這位CEO被騙轉賬22萬歐元。

其次,虛假音視頻也會侵犯個人隱私,損害個人名譽。之前有報道稱韓國多個女性公眾人物的臉部被替換到色情視頻上,這些視頻被廣泛傳播,導致受害者遭受嚴重的心理傷害和名譽損失。這類虛假視頻不僅侵犯了個人隱私,還會對受害者的生活和職業生涯造成巨大衝擊。此外,虛假音視頻的傳播還可能引起社會混亂。比如有人偽造公眾人物的講話視頻,傳播不實消息,引發混亂與恐慌。

如何面對虛假音視頻泛濫成災現象?

王東表示,偽造音視頻資料對人來說很難判斷真假,但也並非無跡可尋。最有希望的方式是用AI對抗AI,用人工智能技術來檢測音視頻的真實性。例如,可以通過識別圖像或音頻在細節上的失真來判斷視頻是否合成。比如,清華大學北京郵電大學合作的一項鑒偽工作,通過考察音頻和視頻的同步性(如嘴唇和聲音是否匹配),也可以將一些偽造視頻檢測出來。面對虛假音視頻的泛濫成災,多個科技公司和研究機構正在研發和推廣鑒偽技術。

王東稱,除了技術手段,加強公眾對虛假信息的認識也很重要,要提醒公眾不要盲目相信網絡上的視頻和音頻信息。此外,防範音視頻偽造不只是技術上的問題,也需要法律約束。比如,多個國家(包括我國)已經強制要求對AI生成的內容做明確標識,嚴懲使用音視頻合成技術進行犯罪活動的人。只有將合成音視頻的非法使用變成高壓線,才能杜絕濫用現象。

郭濤認為,目前,具身智能、情感智能等相關技術還不成熟,未來隨着相關技術的成熟,或許將實現數字人永生,以數字人的形式生活在元宇宙裏面。因此,需通過法律規制、行業自律和技術倫理標準協同治理,確保技術應用符合倫理道德和法律規範,

趙佔領表示,技術本身並無善惡之分,關鍵在於使用它的人。在實際操作中,一些商家或個人打着情感慰藉的幌子,未經逝者親屬允許,擅自利用這一技術,甚至將生成的影像和聲音用於商業活動。這不僅是對逝者的不尊重,更是對親屬情感的二次傷害。必須明確的是,無論是「復活」親人還是「復活」明星,AI應用應當遵循一定的倫理,嚴守法律紅線,不能侵害他人的合法權益,不能用於違法或者犯罪活動。

AI「復活」逝者,暗藏哪些風險? - 天天要聞

此外,趙佔領還表示,AI「復活」逝者是把雙刃劍,需審慎使用。這項技術雖能彌補情感缺憾,但也可能加深離別之痛。因此應明確技術邊界,尊重逝者與親屬的權益。從促進市場規範發展的立場看,監管部門也需要及早研判,擬定合理標準,督促商家有序經營,保護數據安全,避免技術濫用,確保AI「復活」逝者技術能夠在合法、合規的前提下健康發展。

科技分類資訊推薦

關於XKA生態鏈的Q&A:以品質紮根生長 - 天天要聞

關於XKA生態鏈的Q&A:以品質紮根生長

隨着XKA生態鏈體系的不斷完善,眾多生態鏈產品也已悄然走進用戶生活中,成為超2300萬用戶幸福生活的重要一環。關於XKA生態鏈,我們有話說:————Q1:XKA生態鏈的內核是什麼?A:對品質的無限追求,是XKA生態鏈最堅硬的內核,驅動着XK
從銷量冠軍到技術革新,問界M9 2025款上市24小時大定破1.5萬 - 天天要聞

從銷量冠軍到技術革新,問界M9 2025款上市24小時大定破1.5萬

現如今中國汽車品牌全面崛起,湧現出一批產品力過硬的車型,打破了曾經被外國品牌壟斷的市場格局。尤其在高端豪華市場,中國品牌的話語權越來越重,着實令人驕傲。比如問界M9,自2024年3月份開啟大規模交付之後,銷量就穩健攀升,展現出強大的市場統治力。在中國市場50萬
川崎重工展示四足仿生機械人:採用氫燃料電池動力系統 - 天天要聞

川崎重工展示四足仿生機械人:採用氫燃料電池動力系統

快科技4月6日消息,據報道,日本川崎重工近日發佈其最新研發的四足仿生機械人"CORLEO",該產品融合了多項創新技術,展現了未來移動平台的發展方向。這款機械人通過獨特的四足驅動系統實現卓越的越野性能,其核心技術源自該集團在機械人控制算法和摩托車懸掛系統領域數十年的技術積累。CORLEO最引人注目的特點是其氫燃料電池...
雷軍人設崩塌,供應商避之不及,小米汽車能否化解危機? - 天天要聞

雷軍人設崩塌,供應商避之不及,小米汽車能否化解危機?

在這個世界上,很多事情的發生往往會出乎我們的意料,無論是好事還是壞事。正如那句話所說:天有不測風雲,人有旦夕禍福。此時此刻,如果把上面兩句話放在小米汽車身上,在車快評看來還是比較符合小米汽車當下現狀的。為什麼這麼說?還得從小米汽車誕生開始聊
曝三星Galaxy S25 Edge定檔,採用線上方式發佈 - 天天要聞

曝三星Galaxy S25 Edge定檔,採用線上方式發佈

對於三星超薄旗艦 Galaxy S25 Edge 手機,最新爆料顯示,該機最終定於5 月 13 日發佈,較原計劃推遲一個月,且發佈會規模縮小為線上活動。據了解,本次延期和手機質量並無關係,可能和三星 DX 部門管理層調整有關。
10%全球關稅,正式生效 - 天天要聞

10%全球關稅,正式生效

【導讀】10%全球關稅正式生效中國基金報記者 泰勒大家好,一起關注一下貿易戰的新消息。特朗普的10%全球關稅正式生效當地時間周六0點01分(北京時間4月5日12點01分),特朗普對全球貿易夥伴徵收的10%基礎關稅正式生效,雖然10%的基礎稅率已開始實施,但對部分國家徵收的更高關稅,預計將於4月9日開始執行。各國正在權衡如何...
特朗普對等關稅下,iPhone等蘋果產品將售價暴漲?這種擔心可能多餘了! - 天天要聞

特朗普對等關稅下,iPhone等蘋果產品將售價暴漲?這種擔心可能多餘了!

在特朗普宣布瘋狂的對等關稅政策後,美股股市大跌,其中蘋果公司股價更是連續兩日大幅下跌,抹去萬億市值。而其大跌邏輯則是市場認為特朗普無差別攻擊的關稅政策,將對蘋果公司所依託的全球供應鏈構成重大威脅,特別是蘋果公司的iPhone供應鏈成本。據測算:若特朗普關稅政策最終得以實施,那麼每部iPhone的成本可能將增加約...
說說今日頭條的首發原創 - 天天要聞

說說今日頭條的首發原創

今日頭條發明了首發原創,一開始以為是為創作者謀福利,因為首發原創可以讓創作者獲得三倍以上的收益,這本來是天大的好事,現在看來就是一個大坑,辦了首發原創以為會得到好處,但今日頭條平台最近大量取消首發原創,讓人步步驚心,才發現獲得首發原創並不是