AI“复活”逝者,暗藏哪些风险?

2025年04月05日18:23:05 科技 1996

清明节前一天,浙江嘉兴的朱女士在某电商平台找到一商家,提供了逝世母亲的照片和一些信息,委托商家使用AI技术制作视频,“复活”了去世多年的母亲。朱女士说,视频中,母亲的容貌再次出现眼前,并对她说着一些鼓励话,虽然这只是一个虚拟的视频,却让她感受到了久违的温暖。

今年清明节期间,利用AI技术“复活”亲人再次成为热议话题。近日,记者调查了解到,在多个电商平台,只需输入AI“复活”关键词,就能找到大量相关商家和方案,仅需一张照片和文字信息,即可实现让照片中的人动起来,不仅开口说话,还能复活原声。售价从几元、几十元到上百元不等。

清华大学国家信息研究中心副研究员、清华大学计算机系人工智能通识教育(AIGE)研究中心副主任王东称,AI“复活”是利用人工智能技术模拟生成逝者数字形象的应用。该技术初衷是帮助人们缅怀和纪念亲人,通过模拟生成数字形象实现音容再现,满足人们与逝去亲人再次见面的渴望,提供一种具象的追忆方式。

然而,王东表示,技术的温情背后也暗藏争议,甚至带来隐私泄露和侵权的风险。需要明确的是,对技术应用和人机边界的把握始终是关键,相关部门需加强监管,避免技术滥用。

逝者家人:

让人在情感上得到一定满足

不久前,山东青岛市的刘女士说,出于对已去世奶奶的思念,她提供了奶奶的照片和生前一段语音,起初她只是尝试AI“复活”,没想到却收获了一场跨越时空的温暖重逢。视频中,熟悉的声音在她耳边响起,就好像奶奶还在身边一样。“有人可能认为这是一种虚假的安慰,会让人沉迷于过去无法自拔。但是,正是因为分别如此痛苦,才需要一些安慰和情感寄托来帮助我们更好地走下去。”她说。

刘女士也表示,虽然AI“复活”视频让人在情感上得到一定满足,但真正的治愈还是来自内心深处的自我修复过程,而不是外部手段的介入。

AI“复活”逝者,暗藏哪些风险? - 天天要闻

与此同时,河北衡水市的于先生和来自山西临汾市的郭女士均表示,出于对逝去亲人的尊重和传统,他们不会选择用AI“复活”亲人。但是,他们对此做法表示理解,因为AI“复活”能为生者带来心灵慰藉,重振生活信心,让思念有处表达,发挥了技术的积极作用。“但应理性看待这项技术,既要珍惜它带来的正面影响,也要警惕潜在风险。”

六六(化名)是一名AI技术爱好者。近两年,他利用AI帮上千人“复活”亲人。他表示,输入一张已逝亲人的照片和一段生前的录音,不但可以让照片动起来,还可以模拟亲人的声音和语气讲话。如果生前的视频资料更丰富,还可以定制亲人的“数字人”,他希望能发挥技术的正面作用,用这种方式更好地疗愈有需要的普通人。

人工智能专家、中国电子商务专家服务中心副主任郭涛表示,“AI复活亲人”现象的兴起,得益于技术、心理需求与社会趋势的共同推动。在技术上,深度学习、NLP和GANs等AI技术的成熟,使语音、外貌和对话模拟成为可能,且商业化服务价格低至几元,形成了情感消费市场。在心理层面,人类对亲情延续的渴望,尤其是丧失亲人后的心理创伤,促使技术成为情感代偿工具,帮助生者缓解思念之苦。在社会趋势方面,殡葬行业引入AI数字人服务,电商平台推出低价套餐,加速了技术的普及。这一现象既满足了人们对科技进步的好奇,也探索了生命、记忆与情感之间的深厚联系。

郭涛说,在此情况下,用户心理也呈现显著的双面性。在积极层面,技术为丧亲者提供“未竟对话”的情感出口;在消极层面,部分用户陷入“虚拟依赖症”,过度沉溺虚拟互动导致现实社交障碍,更有不法分子利用AI伪造亲人影像实施诈骗。这种心理本质是人类对亲情延续的本能渴望,却也暗藏逃避现实、混淆虚实的风险,需警惕技术从“情感桥梁”异化为“心理牢笼”。

商家:“AI复活亲人”产品

标价低至几元钱

据了解,当前,一些殡葬服务公司正利用“AI创造性内容”的风口,把对逝者的爱和怀念转化为数字产品,使家属能够与逝去亲人的数字化形象进行对话,帮助他们在悲痛中找到一丝安慰。多地陵园也引入AI技术“复活”逝者,使亲属与AI数字亲人实现实时对话。

AI“复活”逝者,暗藏哪些风险? - 天天要闻

图片电商平台上的AI“复活”产品服务和商家(央广网发 图片来源于网络截图)

在多个电商平台和社交平台,AI“复活”已形成了一门生意。记者以AI“复活”为关键词,在电商平台进行搜索后,部分商家展示了多种“AI复活亲人”产品,这些产品包括图片、视频等,价格在几元、几十元到上百元不等。

据商家介绍,消费者只需提供一张照片即可,对于视频语音,可由客户提供,也可由商家提供。一些商家还出售“AI制作代复活亲人视频教程”,或者备注“收徒”,并标明了“短视频新赛道轻松火爆全平台副业项目”等字眼。

记者发现,在一些短视频平台,也出现类似服务。在一些AI“复活”内容和商家视频下面,不少网友留言表示愿意花钱购买这项服务,并纷纷下单。

AI“复活”逝者,暗藏哪些风险? - 天天要闻

图片有AI“复活”教程被售卖(央广网发 图片来源于网络截图)

王东介绍,AI“复活”亲人背后的技术原理可以归结为两点,一是个性特征提取,二是生成式音视频模型。王东表示,如果让亲人和人对话,那就需要应用语音识别和语言理解能力,这种能力目前已经比较成熟,特别多模态大模型技术的发展让这种对话能力变得越来越强大。

郭涛介绍,当前新技术路径按复杂度与成本分为三级:基础层利用AI开源工具实现照片动态化,收费几十元甚至低于10元,但效果生硬;进阶层结合语音克隆(需60秒以上音频)与虚拟形象驱动,收费500-2000元,可实现简单对话;高级层依托大模型训练构建数字人交互系统,需1分钟视频及生活语料,收费超万元,能模拟逝者“记忆”并进行深度互动。不同层级技术的成熟度与成本差异,形成了从基础到高阶的服务矩阵。

科技博主黄海峰说,目前,虽然AI“复活”在语音合成上可打造高度逼真自然的声音,图像生成可呈现逼真的动态人物形象,对话交互能模拟特定人物语言风格对话,但在复杂逻辑和深度知识上尚存不足。合适的深度学习算法只是起点,还需要专业团队进行针对性调优。

专家:AI“复活”

面临伦理和法律双重挑战

据此前媒体报道,一些网络博主使用AI技术“复活”逝世明星的做法引发争议。郭涛表示,AI“复活”现象带来了伦理和法律的双重挑战。伦理上,未经授权的“复活”可能侵犯逝者人格权,尤其是公众人物易被滥用。此外,虚拟形象与逝者真实意志的冲突,可能模糊生死界限,引发身份认同问题。法律上,根据《中华人民共和国民法典》第九百九十四条规定,擅自使用死者肖像需近亲属同意,否则需承担民事责任。传播平台也需对侵权内容承担连带责任,但当前标注规范执行不足。同时,构建数字人涉及大量敏感信息,存在泄露风险,且用户与数字人交互产生的行为数据可能被不当利用。

中国政法大学知识产权研究中心特约研究员、嘉潍律师事务所赵占领律师表示,AI“复活”主要涉及到民法典所规定的肖像权以及声音相关的权益,未经其法定继承人的同意,不能使用AI软件或其他方式去合成其肖像或声音,否则构成侵权。此外,平台商家未经他人同意将他人的AI“复活”资料案例,作为展示宣传使用,同样构成侵权。

赵占领还表示,使用AI合成的图片或视频进行诈骗,还涉及刑事犯罪。对于这种情况,一般受众和用户可能很难辨别真假,因此群众更需警惕和防范,如遇到类似借款等请求,一定要通过可靠的方式进行核实验证。

王东认为,AI“复活”亲人展现了AI技术的强大,也是AI技术正面应用的一个典范。然而,同样的技术如果不当使用,可能还会带来极大风险。首先,有不法分子可能会用虚假生成的音视频进行勒索、诈骗,会给受害人带来经济损失。比如,2020年,一家英国能源公司的CEO被虚假电话欺骗,他当时以为是在和德国母公司的老板在通话,但对方其实是用了声音转换技术变了声音的骗子。这通电话让这位CEO被骗转账22万欧元。

其次,虚假音视频也会侵犯个人隐私,损害个人名誉。之前有报道称韩国多个女性公众人物的脸部被替换到色情视频上,这些视频被广泛传播,导致受害者遭受严重的心理伤害和名誉损失。这类虚假视频不仅侵犯了个人隐私,还会对受害者的生活和职业生涯造成巨大冲击。此外,虚假音视频的传播还可能引起社会混乱。比如有人伪造公众人物的讲话视频,传播不实消息,引发混乱与恐慌。

如何面对虚假音视频泛滥成灾现象?

王东表示,伪造音视频资料对人来说很难判断真假,但也并非无迹可寻。最有希望的方式是用AI对抗AI,用人工智能技术来检测音视频的真实性。例如,可以通过识别图像或音频在细节上的失真来判断视频是否合成。比如,清华大学北京邮电大学合作的一项鉴伪工作,通过考察音频和视频的同步性(如嘴唇和声音是否匹配),也可以将一些伪造视频检测出来。面对虚假音视频的泛滥成灾,多个科技公司和研究机构正在研发和推广鉴伪技术。

王东称,除了技术手段,加强公众对虚假信息的认识也很重要,要提醒公众不要盲目相信网络上的视频和音频信息。此外,防范音视频伪造不只是技术上的问题,也需要法律约束。比如,多个国家(包括我国)已经强制要求对AI生成的内容做明确标识,严惩使用音视频合成技术进行犯罪活动的人。只有将合成音视频的非法使用变成高压线,才能杜绝滥用现象。

郭涛认为,目前,具身智能、情感智能等相关技术还不成熟,未来随着相关技术的成熟,或许将实现数字人永生,以数字人的形式生活在元宇宙里面。因此,需通过法律规制、行业自律和技术伦理标准协同治理,确保技术应用符合伦理道德和法律规范,

赵占领表示,技术本身并无善恶之分,关键在于使用它的人。在实际操作中,一些商家或个人打着情感慰藉的幌子,未经逝者亲属允许,擅自利用这一技术,甚至将生成的影像和声音用于商业活动。这不仅是对逝者的不尊重,更是对亲属情感的二次伤害。必须明确的是,无论是“复活”亲人还是“复活”明星,AI应用应当遵循一定的伦理,严守法律红线,不能侵害他人的合法权益,不能用于违法或者犯罪活动。

AI“复活”逝者,暗藏哪些风险? - 天天要闻

此外,赵占领还表示,AI“复活”逝者是把双刃剑,需审慎使用。这项技术虽能弥补情感缺憾,但也可能加深离别之痛。因此应明确技术边界,尊重逝者与亲属的权益。从促进市场规范发展的立场看,监管部门也需要及早研判,拟定合理标准,督促商家有序经营,保护数据安全,避免技术滥用,确保AI“复活”逝者技术能够在合法、合规的前提下健康发展。

科技分类资讯推荐

百度前副总裁璩静开医美诊所,人均消费2218元 - 天天要闻

百度前副总裁璩静开医美诊所,人均消费2218元

红星资本局7月2日消息,百度前副总裁璩静在华为总部坂田基地附近开了一家医美诊所。据公开资料,璩静名下新增一家存续企业——深圳大为诊所。该诊所成立于2024年12月23日,璩静持股比例为100%,认缴出资额为100万元,经营范围为诊所服务等。
千里智行,常用常新,传祺向往S7 开启重磅OTA升级 - 天天要闻

千里智行,常用常新,传祺向往S7 开启重磅OTA升级

7月2日,传祺向往S7 OTA如期而至,OTA 2.0版本正式全量推送。本次升级新增16项功能,31项 功能升级和57项体验优化,主要涉及智能座舱、智能辅助驾驶、娱乐系统、车机交互等多个维度,旨在为用户提供常用常新的出行体验,功能强大又好用。
九州风神推出大霜塔棱镜风冷散热器:双塔棱镜顶盖,209 元 - 天天要闻

九州风神推出大霜塔棱镜风冷散热器:双塔棱镜顶盖,209 元

IT之家 7 月 3 日消息,九州风神 DeepCool 现已推出大霜塔棱镜 (AG620 ARGB V2) 风冷散热器。其采用双塔双风扇六热管直触设计,双塔顶部均配有 ARGB 灯效“棱镜顶盖”。大霜塔棱镜长宽高 129×136×162 (mm),支持 45mm 高内存条。其六根 6mm 双向恒定热平衡热管采用 CTT 2.0 核心触控技术在塔体底部并管排
今年5月中国大陆笔记本电脑线上市场销量增长,均价直逼7000元 - 天天要闻

今年5月中国大陆笔记本电脑线上市场销量增长,均价直逼7000元

【TechWeb】洛图科技(RUNTO)的报告显示,2025年5月,中国大陆笔记本电脑线上公开零售市场的销量达到了78.6万台,同比增长了20.6%。销售额方面,达到了54.1亿元,同比增长了39.3%。值得注意的是,近两年来,中国笔记本电脑线上市场的均价长期超过6000元,远超其他IT及消费类电子产品。5月份,笔记本电脑线上市场的均价更是...
​ 产品性能获认可,飞骧科技成功打入高端供应链 - 天天要闻

​ 产品性能获认可,飞骧科技成功打入高端供应链

飞骧科技作为国产射频前端芯片领域的领军企业,近期在市场表现方面频传捷报。凭借5G产品的持续放量及在国产替代浪潮中的突出表现,飞骧科技正逐步巩固其在国内PA领域的市场地位,成为行业关注的焦点。在5G市场,飞骧科技展现出强劲的增长势头。2023
与 AMD FSR4 同源,索尼 PS5 Pro 游戏机明年将迎新款超分算法 - 天天要闻

与 AMD FSR4 同源,索尼 PS5 Pro 游戏机明年将迎新款超分算法

IT之家 7 月 3 日消息,外媒 Tom's Guide 此前同 AMD 和索尼 PlayStation 双方高管就 Project Amethyst 合作项目的进展进行了交流。而根据事后报道,PS5 Pro 游戏机将在明年迎来新款的超分辨率算法。▲ AMD 代表(左)和索尼 PlayStation 代表(右)各持被劈开的紫水晶的一半AMD 和索尼 Pla
消息称某厂 SM8850 新机全系标配 50Mp 3X 中底潜望镜 - 天天要闻

消息称某厂 SM8850 新机全系标配 50Mp 3X 中底潜望镜

IT之家 7 月 3 日消息,博主 @数码闲聊站 今日爆料称,某厂子系旗舰线 SM8850,目前全系标配 50Mp 3X 中底潜望镜,现阶段基本确定 50Mp+50Mp+50Mp。结合此前爆料来看,预计为 iQOO 15 手机。此前,该博主曾透露一款 SM8850 神秘新机将标配 6.85 英寸 2K 分辨率三星 LTPO 定制四窄边大直屏,支持 Pol-l
美媒:西门子收到美国商务部通知,特朗普政府已解除对华芯片设计软件禁令 - 天天要闻

美媒:西门子收到美国商务部通知,特朗普政府已解除对华芯片设计软件禁令

【文/观察者网 熊超然】彭博社当地时间7月2日报道称,根据德国西门子公司发布的一份声明,美国商务部已通知该公司,在中国开展业务不再需要获得“政府许可”。报道就此称,特朗普政府至少已解除了对华芯片设计软件销售的出口许可要求,并认为这是中美两国为促进关键技术流动而正实施的一项贸易协议的一部分。作为全球领先的...