• 我的订阅
  • 娱乐

“AI换声”爆火暗藏技术隐忧

类别:娱乐 发布时间:2023-11-10 06:33:00 来源:每日看点快看

本文转自:北京日报

本报记者 孙奇茹 鹿杨

郭德纲飙英文说相声、赵本山用流利的英文演小品、外国歌星泰勒·斯威夫特操着一口地道的中文接受采访……多个国内外明星被AI(人工智能)换声的视频近日在网络上爆火,再次引发公众对AI技术的热议。

无论是AI换声还是换脸,新技术的使用边界亟待明确,其背后的侵权、诈骗等隐忧更不容忽视。

飙外语以假乱真

“I have to take care of this matter!(这事儿我得管)”在一条播放量达百万次的短视频中,身着刺绣大褂的相声演员郭德纲正像模像样地用英文说着《济公传》。记者发现,视频里的声音不仅和郭德纲本人的音色没有什么出入,嘴型和英文发音也一一对应,着实难辨真假。这段精彩的单口相声秀引得网友发出惊叹:“要不是看到视频平台上‘该视频使用AI技术合成’的小字提示,我差点就当真了!”

除了本土名人说英文,外国歌星泰勒·斯威夫特、演员艾玛·沃森等在访谈节目中用中文对答如流的视频,也引来网友围观。截至发稿前,多个AI换声视频在B站、微博、抖音的浏览量已达到数百万。

奇安信集团行业安全研究中心主任裴智勇解释,无论声音还是图像,都可以通过特定的数学变换分解成若干个特征向量,对每个向量赋予特定的一组参数,就可以形成特定的声音或图像。所谓AI换声,就是通过机器学习的方法,用某个人以往的声音作为样本进行学习,从而给声音的每个特征向量赋予特定的参数,之后再用这组参数读出新的内容,就可以做到语音、语气甚至情感的模仿了。

不过,要想达到逼真的效果,据业内人士介绍,除了换声以外,还需要地道的翻译、局部篡改人脸信息对口型等多个步骤后才能实现。

换声网站走红背后存争议

随着巨大流量涌入AI换声视频,其背后的公司也浮出水面——2022年7月在海外上线的AI换声网站HeyGen。从如今各大社交平台上爆火的换声短视频自带的水印来看,其中有不少由该网站生成。在该平台上,制作一条换声视频十分简单,用户只需要上传视频,选择语言后,它就能自动翻译并调整音色,生成嘴型匹配的外语视频。

目前,该网站已推出免费版和付费版两种版本,其中,付费版最低收费为每月24美元,免费版仅限于生成1分钟时长视频。一位该网站用户表示,高峰期时排队人数达上万人。有数据显示,今年8至9月,各大文生图类AI网站的访问量均开始呈现下降趋势,但HeyGen的访问量却上升了92%,流量跃居各大独立AI网站之首。

然而,与此前的爆款AI应用妙鸭相机一样,HeyGen也面临着争议与热度齐飞。有律师提出,由于HeyGen用户可以将任何人的视频上传并换声,这可能涉嫌著作权、肖像权、声音权三个方面的侵权。比如,相声、小品等都属于《中华人民共和国著作权法》保护的作品,如未经著作权人授权就擅自更改并传播,则存在侵权问题。

加强治理谨防技术滥用

面对炉火纯青的AI生成技术,更有网友提出,一旦相关技术被用于网络诈骗,后果将难以想象。裴智勇分析,单纯依靠AI技术是无法完成诈骗的,还必须将其与各种深度的网络诈骗套路结合起来才能成功实施诈骗。在裴智勇看来,绝大多数的传统防骗技巧对于AI诈骗同样有效,“比如有人用视频电话向您借钱,您回拨一个电话确认一下就好了。”

值得一提的是,目前国内外均有安全机构尝试研发技术手段来识别AI换脸或AI换声。以清华大学人工智能研究院孵化企业瑞莱智慧推出的能够防范生成式人工智能恶意滥用的DeepReal2.0技术为例,其相关技术能够用于打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等,可对生成式人工智能技术滥用行为进行管控和治理。

记者也注意到,国家网信办等三部门去年联合发布的《互联网信息服务深度合成管理规定》明确,深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识。但目前网络上流传的AI换脸图片和AI换声视频中,有些并未添加相应标识。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-11-10 08:45:08

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

小心“AI换脸”,已有515人落网!
...,诱骗受害人上当。”奇安信集团行业安全研究中心主任裴智勇说。根据公安部发布的消息,当前,冒充电商物流客服、冒充公检法、冒充领导熟人以及刷单返利、虚假网络投资理财、虚假网络贷款
2023-08-12 10:43:00
“被法人”调查:政务APP被破解,冒名开公司轻而易举
...其他不法的经营行为。奇安信集团行业安全研究中心主任裴智勇介绍,人脸和指纹都属于生物识别的范畴,它们都具有可以复制的特点,但在网络验证中,它们并不是一个特别安全的密钥。裴智勇认
2023-08-21 11:43:00
...网络安全的一个重要分支。奇安信行业安全研究中心主任裴智勇认为,数据安全人才的短期缺口至少在5万至10万人之间。中国工业互联网研究院发布的《工业互联网产业人才需求预测(2021
2023-02-23 16:03:00
...吗?能用技术手段阻止吗?奇安信行业安全研究中心主任裴智勇对记者说:“肯定能发现,也能阻止,技术上有很多成熟的方法。但仅仅依靠景点自建的售票平台,想要建设完善的反恶意抢票系统是
2024-08-20 13:59:00
...”能守口如瓶吗在科幻电影中,因为数据泄露带来的安全隐忧曾在很多情节中出现过。而在现实中,随着AI技术在各行各业的广泛应用,数据安全的确成为一个重要且紧迫的问题。人工智能系统的
2024-06-16 21:12:00
...感词监测的精准度,及时清理不良言论。奇安信安全专家裴智勇等建议,相关平台在收集数据时应遵循“最小必要原则”,减少前端数据收集,从源头降低数据泄露风险。同时,对隐私数据要建立信
2025-03-25 21:43:00
农村老人不应“困”于屏幕之中
...,自身生活也得以丰富。但当这种享受变为沉迷,其中的隐忧便不容忽视。熬夜刷视频看小说,化身“剁手党”疯狂购物,对养生骗局深信不疑,更有甚者掉入网络诈骗陷阱……这些现象都值得警惕
2024-01-17 07:22:00
...展的若干措施,助力行业健康有序发展。流量之下的多重隐忧伴随微短剧的快速发展,市场红利与乱象相伴相生。——有的微短剧上瘾但低质。近日,微信公众平台运营中心微信公众号发布“关于微
2024-09-27 09:33:00
...外在的东西给复刻出来了而已。”郜静文说。热潮背后有隐忧当前AI复活技术引发的伦理争议和法律风险正日益凸显。一位不愿具名的AI行业人士向记者透露:“头部人工智能企业普遍回避这类
2025-04-01 12:44:00
更多关于娱乐的资讯:
从霸道总裁到烟火人家,短剧“风向”悄悄变了?
拍摄17天,成本300万元,3天破10亿播放量。堪称全网第一部全程采用方言的短剧《家里家外》,其话题热度眼下还在蔓延:从无数网友看得津津有味直喊“太上头”
2025-04-02 11:06:00
张予曦《千秋令》官宣定档,能否打破仙侠剧审美困局?
由张予曦、佟梦实领衔主演的古装仙侠剧《千秋令》定档4月8日芒果 TV开播,该剧以水墨长卷般的东方美学,讲述一段跨越千年的爱恨纠葛
2025-04-02 11:06:00
押中《哪吒2》背后:杰森娱乐如何用「投人逻辑」撬动卡牌市场
以卡牌品类切入行业,并在两年多的时间内成为国内卡牌市场占有率第二名的企业,杰森娱乐也正在全面布局动漫周边、手办、毛绒等多元化业务
2025-04-02 11:07:00
央视镜头下的女星,真实堪比照妖镜,毛晓彤双下巴,刘亦菲扛住了
文案|罗生编辑|喵三三REDGALA春天开幕式在杭州成功举办,现场邀请到半个娱乐圈的明星踏上“水上红毯”,搭配春日的布景
2025-04-02 11:07:00
全球知名动画IP《海底小纵队》系列大电影的第三部:《海底小纵队:海啸大危机》今日宣布定档5月1日,并同步释出定档海报及首支预告片
2025-04-02 11:10:00
近日,一位来自中国湖南的年轻艺人阎蕾(Leia Yan),凭借独特的人生经历和在演艺领域初绽的光芒,吸引了众多关注。2002年出生的阎蕾
2025-04-02 11:10:00
《猎狐·行动》发布终极预告:梁朝伟段奕宏揭96小时174亿血路厮杀内幕
中国娱乐网讯 www.yule.com.cn 中国首部海外追逃犯罪大片《猎狐·行动》今日发布“圈套还是机会?”终极预告及“怒血
2025-04-02 11:11:00
本文转自:人民网3月29日,“人机共创·2025AI赋能正能量创作大会”在广西南宁举办。《2025中国·AI盛典》制片人
2025-04-02 11:18:00
人设翻车口碑垮!赵露思综艺为啥给人高高在上的感觉?
为什么说赵露思参加综艺给人一种高高在上、令人不适的感觉,导致口碑崩塌、人设翻车呢?这还得看看事情的经过。近期,赵露思录制综艺原本想塑造真性情的人设
2025-04-01 16:53:00
孟子义李昀锐录综艺被全网喊话:民政局自己走过来!
娱乐圈最近杀出一对让人嗑生嗑死的"真情侣",《九重紫》的孟子义与李昀锐正用教科书级别的售后营业,给内娱CP营销上了一堂示范课
2025-04-01 16:03:00
张庭女儿15岁T台走秀颜值遭批:爹帅妈美,女儿似宋小宝?
大家有看到吗?最近张庭15岁的女儿林家菱走上T台走秀啦!张庭和林瑞阳在娱乐圈那可是妥妥的俊男美女组合。张庭笑起来时,那俩梨涡简直甜得让人受不了
2025-04-01 16:51:00
强身健体弘扬传统 八段锦高手齐聚泰山秀城
九泰金瑞康2025年度八段锦比赛开幕仪式现场。(姚聪 供图)3月30日上午,九泰金瑞康2025年度八段锦比赛在泰安泰山秀城正式启幕
2025-04-02 11:18:00
电影《命中罪爱》定档4月12日,市井悬疑下探索人性情感本真
由大地时代文化传播(北京)有限公司、北京炫耀映像文化传媒有限公司、厦门敬壹影视有限公司、TCL文化传媒(深圳)有限公司
2025-04-02 11:10:00
当大数据“算出”心动频率 珍爱网让爱生根发芽
“如果没有珍爱网,我们或许只是擦肩而过的陌生人。”吴然(化名)至今仍清楚地记得,第一次在珍爱网旗下珍爱APP上刷到李欣(化名)资料时的心跳加速
2025-04-02 11:10:00
传承红色旗帜!临沂士博高级中学这场朗诵比赛真精彩
齐鲁晚报·齐鲁壹点 通讯员 李振宝3月28日,临沂士博高级中学“传承红色旗帜,激扬青春风采”朗诵比赛举行。18支参赛队伍的选手们以朗诵为笔
2025-04-02 11:09:00