• 我的订阅
  • 社会

用AI“复活”逝者,伦理和法律的边界在哪?专家解读

类别:社会 发布时间:2024-04-06 08:57:00 来源:杭州网

AI数字“复活”,您听说过吗?当然,这里的复活是加引号的,简单来说,就是指用逝者生前的照片、视频、文字记录等历史数据,使用人工智能技术、数字化模拟再现已故人物的声音、影像、行为等。

那么,目前AI“复活”技术发展到什么程度?一个人的“数字复活权”归谁拥有?未经授权AI“复活”明星是否触犯法律?使用逝者数据生成数字人,伦理和法律的边界在哪里?我们现有的法律是如何规定的? 首先来认识一位金女士,不久前,她借用AI技术、数字“复活”了一名已故的小女孩,她的女儿,小睿睿。

跨越时空的对话 妈妈的小女儿“回来了”

屏幕里懂事乖巧的小女孩名叫小睿睿,时隔近三年,再次以这样特殊的方式与女儿对话,金女士难掩激动。这个和自己女儿有着同样外表和声音的数字形象是金女士委托南京的一家AI工作室定制而成。抱着试试看的心态提供了女儿的视频和文字介绍等资料后,金女士没有想到仅仅一个月时间,她就可以和女儿隔着屏幕进行对话。

小睿睿妈妈 金女士:我感觉好像她又回到我身边一样,而且声音和性格完全符合,跟她生前几乎是一模一样的。

2021年,年仅9岁的小睿睿因患胶质母细胞瘤不幸去世,在她离世后,她的家人对女儿的思念与日俱增,在看到网络上有人为自己去世的亲人用人工智能手段进行数字重生后,金女士也动了心。

小睿睿妈妈 金女士:我一个人,比如说在家里的时候,平时就拿个照片看,不能产生互动,不能聊天。然后数字人可以根据她的性格,还有她的声音来模仿,我就可以跟她进行互动,能够感觉到她的存在感。我觉得这是延续了孩子对我的爱,还有我对孩子的爱,这是两个爱的相互延续。

从AI换脸到“复活” 记者探访数字人工作室

在南京高新技术开发区的某产业园,记者找到了这家名为“超级头脑”的AI工作室,负责人张泽伟告诉我们,成立之初他们从事的是AI培训和教育的相关业务,而真正开始接收“AI复活”逝者的订单,是缘于朋友的一个请求。

“超级头脑”工作室创始人 张泽伟:我的一个朋友,他父亲因为意外离世了,然后他们全家人一直瞒着他的奶奶。因为时间有点长了,老人家就是一直在问,所以说大家也看是瞒不下去了。所以说我朋友才找到我,问我可不可以有这项技术去复刻一下他父亲的声音跟形象,跟老人进行一个实时的通话,给老人报一个平安。

出于好友的请求,张泽伟的团队接下了这个任务,利用AI换脸换声技术,张泽伟扮演了朋友去世的父亲与老人进行了视频通话,视频里张泽伟并没有太多的言语,仅仅只是点点头微笑,而对于听力不太好的老人而言,这已经足以让她相信视频里的人是她许久未见的儿子。自这以后,越来越多的人找到他,希望以各种形式帮助他们“复活”亲人。从去年三月份到现在,张泽伟已经接到了一千多个订单。

在已经建构好的模型里,只要摄像头能够捕捉到扮演者的脸部图像,只需动动鼠标,换脸仅仅是一瞬间的事情。用AI技术换脸变声去为不知亲人离世的老人们编织一场善意的谎言,而对于不得不接受这个消息的人而言,让逝者的数字分身成为自己偶尔的陪伴和慰藉,成了另一部分人的选择。

家住南京的王先生在去年委托张泽伟利用AI技术扮演去世的舅舅与自己的外婆视频聊天,暂时瞒住了舅舅意外去世的消息。但王先生也意识到,这样善意的谎言也许不可能一直编织下去,看到张泽伟的工作室有数字生命的服务,他也在考虑为去世的亲人订制一个。

采访中张泽伟告诉记者,甚至有一些殡葬行业机构也主动找到工作室,希望能与他合作,为客户推出逝者数字生命的订制服务。

“超级头脑”工作室创始人 张泽伟:比如说后人去祭奠他、去看他,其实你并没有特别直接的印象。一个人他代表可能一段历史,可能是这个家族的一些重大事迹。当他的后人再去祭奠他,不管他的碑、墓地以后还在不在,至少他的数字生命是永远都在的。

AI“复活”已逝公众人物是否触犯法律?

近日,复活已故明星李玟的视频在网络上引起了广泛关注,记者发现,除了李玟外,还有包括张国荣、乔任梁等去世公众人物也被网友进行了AI数字“复活”,一些网友利用这些已逝明星生前的影像资料让他们重新对粉丝说话。

北京航空航天大学法学院副教授 赵精武:在没有取得近亲属同意的情况下,就对逝者的信息进行商业化利用或者其他目的,显然构成了对死者以及近亲属合法权益的侵犯。因为在我们看来,死者的复活并非真正意义上的复活,更多的是对于死者的一种消费。

而对这类网络上大量出现的“复活”视频,这些名人的家属表达了强烈的不满。

3月16日,对于网上传播开的“乔任梁被复活”影像,他的父亲公开表示,不能接受,希望对方尽快下架。

3月28日,已故知名歌手李玟的母亲公开发布了一则律师声明。该声明称,近期部分网络用户未经李玟女士近亲属同意,利用李玟肖像制作、发布“AI复活李玟”系列短视频,此类视频的广泛传播已经对李玟母亲及其家人的工作和生活造成了严重干扰,同时也给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。要求涉嫌侵权责任人,于声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章,立即停止实施相应侵权行为。

北京航空航天大学法学院副教授 赵精武:这种合法性取决于是否取得了死者近亲属的同意。如果近亲属已经同意,那么这样的行为可能能够豁免他的法律责任。我们国家的民法典第994条也做出了非常明确的规定,对于死者的肖像隐私这些相关的信息,由父母、子女、配偶请求相应的权利救济,如果没有这些相应的主体,则由其他近亲属来行使合法权益。

如何避免逝者数字人侵权或用于不法用途?

采访中“超级头脑”工作室团队告诉我们, 近年来利用人工智能技术从事电诈等不法活动的案例屡见不鲜,如何避免数字人或者换脸换声服务成为某些人非法逐利或从事其他违法行为的工具是他们一直在着力解决的难题。

张泽伟告诉记者,仅仅从沟通上判断客户的意图显然并不够,团队成员正在从合同和证明文件中慢慢摸索出一套法律流程。

“超级头脑”工作室创始人 张泽伟:从协议跟合同上去做约束,就是去做数字生命这一块,是不可以用于任何违法违规的途径的,一旦知道我们立刻会报警或者是向相关机构进行举报。然后再一块就是说会从他的一个授权,对授权和关系证明上去做证明跟约束,比如说你要给自己做,你必须自己授权给我们。你要给别人做,你需要得到别人的授权。如果是别人已经去世了,你必须要得到逝者的直系亲属的授权来做。

使用逝者数据 伦理和法律的边界在哪里?

据记者了解,自去年1月10日起施行的《互联网信息服务深度合成管理规定》要求,“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。”我国民法典第994条规定,死者的肖像等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。

中国人民大学未来法治研究院执行院长 张吉豫:特别在民法典制作的编纂的过程之中,就已经非常明确地考虑到了,当时就已经产生的像深度合成这样的一些技术可能带来的风险。任何人都不能够用信息技术来去伪造这样的方式去侵害他人的肖像权,而且也特别关注到对于声音也可以去进行合成,所以在民法典里面也规定了那声音相关的权利也是参照着肖像权一起来去进行保护的。

专家表示,目前的人工智能在面对如此复杂的人文关怀时,还存在诸多的技术限制以及难以解决的伦理道德问题,对于我国目前已出台或者正在研究制定出台的法律法规和管理办法,尊重人格尊严,防止侵害他人受保护权益是最基本的伦理和法律底线。

北京航空航天大学法学院副教授 赵精武:为了解决这类问题,科技部也在2023年9月发布了科技伦理审查办法,那么通过建立一个科技伦理审查制度来预防科技伦理层面的风险,那AI逝者“复活”也在被规制的对象里边。近期也有专家学者推出了人工智能法学者建议稿,其中基本的原则就是建立人工智能领域的科技伦理审查,强调人工智能技术必须以人为本,尊重人身自由和人格尊严。

中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅:我们可以想象到有些人是希望采用这样的数字逝者来达到慰藉自己心灵的目的。但是它还有很多的隐患,比如说拥有数字逝者的时候,会不会使得人长期沉迷于与数字逝者之间的交互,从而对心理产生非常负面的影响。这个是数字逝者的这项人工智能的应用技术,可能给社会带来的长期潜在的隐患,也是我们是否应当开发这样的人工智能技术必须去思考的伦理道德的问题。

除了出台人工智能监管相关的法律法规以外,不少专家也表示,我们还需要采用人工智能的技术手段去治理人工智能发展。

中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅:未来我们人工智能的产品和服务在推向市场的时候,经过人工智能伦理安全的检测,我们给人工智能的产品和服务去打分,让它符合人工智能和我们的社会对于人工智能的期待。在产品和服务发布之前,避免当中的可能的潜在的伦理安全的隐患。

(总台央视记者 李可婧 石熠龙 苏州台)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-04-06 11:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

AI“复活”逝者成完整产业链,谁有权利使用?应用边界在哪?专家解读
...到不适,希望制作该视频的网络博主尽快下架相关内容。专家解读:到底谁有权利用AI“复活”逝者AI复活亲人这项技术和服务,用来抚慰和缓释遗憾的同时,情感、伦理和法律方面的争论,也
2024-03-22 10:00:00
...层面讲,严格执行现有的肖像权和名誉权法律规定,保护逝者的权利,是基本的要求。从伦理层面看,基于对逝者及其家属深切的尊重和理解是我们的责任。另一方面,技术进步所带来的正面价值也
2024-03-23 07:43:00
...维码铭牌免费发放活动。用户只需扫描二维码,即可上传逝者的生平介绍等相关信息,生成逝者的“数字墓碑”。“一墓一码”的模式兼顾唯一性与私密性,用户可将二维码贴在墓碑上,也可以带回
2024-04-04 15:31:00
清明:当AI“复活”已故亲人成为现实 你会怎么选择?心理专家这样建议
...在我心里,妈妈不是AI人,是我记忆里最生动的人。”“逝者已经安息,不要再去打扰他们了。”也有部分的网友表示对已故亲人的思念久久不能自拔,愿意尝试寻求精神上的慰藉。 在即将到
2024-03-18 22:31:00
新技术的边界永远在人
...智能研究院网站) 最近,人工智能(AI)“复活”逝者的话题颇受关注。从技术上看,“复活”逝者其实是AI技术的一个具体应用场景——以逝者的特征为人设,通过某种算法
2024-04-04 05:57:00
...念的好方式。真正怀念艺人应该尊重其和家人的权利,让逝者安息、让生者安心。某些人打着纪念旗号“复活”艺人,其内心盘算的其实还是流量和利益,这不但是对逝者的不敬,而且已经涉嫌违法
2024-03-18 05:36:00
当AI“复活”逝者渐成生意,多少边界需要约束
...。 ■本报记者 王彦生成式AI技术的发展浪潮下,与逝者“再见一面”似乎不是件多么出人意料的事。可事实证明,这一天真切来临,分歧、争议显然大于共识。近来,李玟、高
2024-03-25 06:08:00
全球传媒伦理与法制联合会第三届年会在重庆北碚召开
...·悖理·道德僭越——国产影视剧反派角色的伦理定位与边界省思”为题,包国强教授探讨了“共建‘一带一路’背景下中资企业国际传播能力提升策略”。林克勤教授就“人机对齐:智能时代的价
2025-03-24 12:09:00
...逝明星进行“复活”,将AI“复活”的争议性摆上台面。逝者家属对此直言“不能接受,感觉不舒适”“希望尽快下架”。面对AI“复活”,期待与拒绝的反差,进一步加剧了公众对AI的讨论
2024-03-25 13:02:00
更多关于社会的资讯:
高温多雨推高绿叶菜价格菠菜价格高位略降,本地秋菜开始大量种植□南京日报/紫金山新闻记者孙秉印虽已立秋,但“秋老虎”威力不减
2025-08-23 09:52:00
浪涛里的“最后一课”
通讯员 周玉森 袁飞 报道这是一次“生命火种”跨越山海的传递,更是一曲人类命运“休戚与共”的和鸣。今年6月15日,坦桑尼亚达累斯萨拉姆的海浪吞没了年仅38岁的张军桥
2025-08-23 10:07:00
上海诺美学子的剑桥夏校之旅:学术与诗意的完美碰撞
当夏日的阳光洒在古老的剑桥校园,一群来自上海诺美的学子们踏上了一场充满学术探索与诗意体验的独特旅程。在这个暑假,他们走进世界顶尖学府剑桥大学
2025-08-23 10:14:00
生命相托的信任:一家医院与一个家庭三十载的生命对话
大众网记者 李欣 东营报道当王女士(化名)将1800余字的就医感受发布到网络平台时,她与家人这段跨越近三十年的就医历程瞬间触动了无数人的心弦
2025-08-23 10:19:00
秦皇岛抚宁:“娘家人”为环卫工人送温暖
河北新闻网讯(张晓磊、张竹苒)“以前手磨得脱皮,现在有了能防晒吸汗又耐磨的手套,我们干起活来心里真舒服,谢谢工会对我们的贴心照顾
2025-08-23 11:08:00
奏响跨域交流交融新乐章——文化润疆的南平文联生动实践
南平市位于福建北部、闽江之源,历史文化厚重,是闽越文化、朱子文化、茶文化、建盏建本文化的发源地。宋代朱熹在此“琴书五十载”
2025-08-23 11:11:00
近日,一则“麻辣烫外卖里吃出百洁布”的新闻登上热搜,引发网友广泛关注。事情起因是一位消费者在外卖中发现一块完整的抹布,感到恶心不已
2025-08-23 11:37:00
...8月20日,国新办举行新闻发布会介绍九三阅兵准备工作有关情况,并答记者问。这次阅兵是全面推进中国式现代化进入新征程的首次阅兵
2025-08-23 11:37:00
平安产险山东分公司全力应对雷暴天气 构筑全链条防汛服务体系
受强对流天气影响,8月15日至17日,山东省多地遭遇强降雨,部分区域出现内涝。面对严峻汛情,平安产险山东分公司迅速启动应急预案
2025-08-23 11:50:00
黄石市发放生育津贴455.80万元,214人次领到这笔“国家发的钱”
荆楚网(湖北日报网)讯(记者 吕鉴蕾 通讯员 王虎涛)今年7月,国家育儿补贴制度实施方案公布。“我们深入推行生育津贴‘免申即享’
2025-08-23 12:09:00
第二十届中国长春电影节今日开幕,本届电影节适逢“新中国电影的摇篮”长影成立80周年,让我们一起沉浸在这场属于所有爱电影人的狂欢吧
2025-08-23 12:39:00
采访优秀校友,共同续写青春序章
2025年7月10日至8月20日,玉溪师范学院薪火相传校友寻访团队怀揣着对校史脉络与奋斗力量的热忱追寻,团队成员兵分多路奔赴到丽江市
2025-08-23 13:03:00
院士出席,千人参会!2025中国数字服务大会在烟台大学举行
齐鲁晚报·齐鲁壹点 李楠楠 通讯员 周媛媛8月19日至21日,由中国计算机学会(CCF)主办,CCF服务计算专业委员会
2025-08-23 13:31:00
林诗栋/蒯曼夺得WTT欧洲大满贯瑞典站混双冠军
北京时间8月23日凌晨,在WTT世界乒联欧洲大满贯瑞典站混双决赛中,中国队组合林诗栋/蒯曼以3:0战胜韩国队组合林钟勋/申裕斌
2025-08-23 13:35:00
大皖新闻讯 怀宁县公安局刑侦大队近日抓获5名涉嫌帮助转移诈骗资金的“车手”。目前犯罪嫌疑人侯某某等人已被采取刑事强制措施
2025-08-23 15:46:00