• 我的订阅
  • 科技

雷军将网友“骂”了整整七天!AI声音诈骗防不胜防?

类别:科技 发布时间:2024-10-09 09:50:00 来源:雷科技

谁能想到科技圈顶流之一的雷军,居然因为AI语音引起互联网热议?

国庆期间,小雷的抖音首页几乎被雷军的AI语音包刷屏。视频中的“雷军”用熟悉的口音带着些许不耐烦的语气,戏谑地吐槽:“这游戏做成这样,绝对是来捣乱的!”由于这些用词与雷军本人十分相似,评论区也常有人问到:“这真是雷军本人说的吗?”

雷军将网友“骂”了整整七天!AI声音诈骗防不胜防?

(图源:抖音)

因神似雷军说话的语气和口音,这些语音包已经在短视频平台迅速走红。但随着这股雷军AI语音热潮席卷网络,除了给网友们带来欢乐,也掀起了更深层次的讨论。AI语音技术的快速发展正深刻地改变着我们的生活,而它的滥用则让我们意识到,这项技术带来的不只是便利,还有潜在的风险:如果雷军的声音可以如此轻松地被复制和恶搞,那在生活中,其他人的声音是否也会面临相同的风险呢?

恶搞雷军,AI语音方向错了?

实际上,在雷军AI语音出圈之前,已经有不少明星“中招”。去年末,美国某知名歌手AI语音视频频频出圈,视频中的她不仅能说这一口流利的中文,甚至还发表了一些政治倾向明显的言论,引起巨大争议。该名歌手的团队也在了解此事后迅速发文澄清,但已经有不少网友信以为真,造成了影响。

作为当代最快实现普适化的AI技术之一,AI语音其实在我们生活中已经相当流行,例如抖音早早就推出了AI配音功能,让创作者可以输入一段文字后使用AI进行语音生成,还能模仿不同的口音,不同的人物角色语气等。

雷军将网友“骂”了整整七天!AI声音诈骗防不胜防?

(图源:剪映)

AI语音主要分为5种模式,分别是语音合成、语音克隆、语音识别、深度伪造和自然语言处理。大多数创作者在伪造名人AI语音时,都会使用多种模式进行炮制,比如雷军的AI语音包,显然使用了语音合成、语音克隆、深度伪造音频以及自然语言处理的结合。这些技术共同作用,使得AI生成的语音能够高度逼真地模仿雷军的声音和语气,为用户提供了一种“真假难辨”的体验。

当然,假如AI语音合成仅仅停留在恶搞的层面上,或许还不至于让网友们开始担忧这项技术的安全性。根据美国联邦贸易委员会(FTC)的数据,2022年因亲友冒充诈骗导致的损失高达2.6亿美元,其中很多案件使用了AI语音克隆技术 。诈骗者通常只需几秒钟的语音片段,就能轻松模仿受害者亲友的声音,发起“紧急求助”的诈骗。这类骗局在美国、英国和印度等地频发,且常以老人和年轻人作为目标,让人防不胜防。

AI语音之所以能够快速席卷全球,并被不法分子利用到行骗当中,其实与其发展势头过猛也脱不开关系。比如专注于AI语音技术研究的ElevenLabs,在前两年就开发出了通过卷积神经网络(CNN)和循环神经网络(RNN),平台能够识别和模仿独特的发音模式,并复现这些特征,适用于个性化内容制作,例如创建定制的虚拟助手声音的技术。

(图源:剪映)

更重要的是,ElevenLabs率先在提供了高保真的声音克隆特性,这使得大多数创造者都能通过它获得非常逼真的AI语音音频。

不过,纵使AI语音引起了大众对安全性的担忧,但它的到来还是为人类进入到AGI(通用人工智能技术)时代提供了最基础的技术支持,例如自然语言交流对话,这几乎出现在所有主流AI工具上,OpenAI、Google、苹果,都将这项技术视为最重要的交互模式。

AI语音被滥用,如何防诈成关键

多数普通用户最常接触到的AI语音造假,基本上都是恶搞名人语音包进行视频重新配音输出的内容,比如雷军。这些恶搞视频不乏粗鄙语言和不当言论,不仅损害了名人的个人形象,还加剧了网络暴力的蔓延 。这些内容在社交媒体上广泛传播,误导了公众舆论,甚至让人难以分辨真伪,降低了人们对社交媒体平台的信任。

而雷军也在个人社交账号上用三个emoji表情回应了近期AI语音出圈的事情,但并没有表明要采取任何法律手段。当然,这是因为雷军的AI语音多数都出现在抖音这样的短视频平台上,而抖音很早就使用了AI技术的检测工具,能够在视频内容里标注相关风险,很大程度上避免了可能存在的纠纷和误会。

但不法分子往往会将AI语音克隆技术应用到金融诈骗上,这种让人无法分辨真假的语音包,的确存在较大的风险。

然而,面对AI语音滥用带来的风险,各界已经开始采取措施以加强防范。银行和金融机构首先意识到了多重身份验证的重要性。例如,英国的一家在线银行在强化生物识别和短信验证后,大幅减少了因语音诈骗而造成的损失。除了多因素验证,银行还可以通过AI技术监控潜在的语音欺诈行为,从而有效地保护用户资金安全。

AI技术提供商同样意识到自身的责任。ElevenLabs等公司在发现其技术被滥用后,迅速推出了检测工具,并严格限制了未付费用户的访问权限。这不仅可以帮助用户识别虚假音频,还能减少恶意滥用的机会。AI公司应当进一步发展检测技术,与政府和行业组织合作,确保AI语音技术在合法、合理的范围内使用。

除了监管机构和AI技术提供商的防诈措施之外,我们普通用户也需要警惕AI语音诈骗。

首先,许多安全专家建议在家人之间设置一个仅彼此知晓的“安全词”。这种词汇不仅仅是防止假冒亲友的有效手段,更是为了在紧急情况中迅速确认身份。McAfee的研究表明,AI只需三秒钟的音频样本即可生成相似度达85%的语音克隆,增加这种简单的身份验证步骤,可以为我们提供额外的安全保障 。

在保护个人隐私方面,我们需要时刻谨慎对待自己在社交媒体上分享的内容。AI诈骗者通常利用公开的音频和视频资料来生成虚假声音,社交媒体上的信息可能会成为他们的“素材库”。因此,尽量控制隐私设置,不要随意上传自己的语音或视频内容。保持低调的网络存在感,能够降低被不法分子盯上的可能性。

比如,在短视频平台分享生活时,尽可能不使用自己的原声,或者是使用AI工具对自己的声音进行处理后再发布。

而在金融防诈部分,我们也可以选择启用多因素身份验证,这是一种增加安全性的身份验证方法,要求用户提供两个或更多的验证信息。例如,在金融交易中,除了语音验证外,银行可能还会要求用户输入一次性密码(OTP)或使用生物识别技术,如指纹识别,以进一步验证身份。这种方法可以有效防止AI语音克隆带来的风险。

最后,也是最重要的,我们需要提高识别AI语音的敏锐度。尽管AI技术能够模拟声音的情绪和语调,但有时会存在细微的失真或不连贯。比如,目前雷军的AI语音在短视频平台十分火爆,但仔细聆听这些用AI工具克隆的语音,我们还是能发现词语与词语之间的不连贯性,这也有助于我们分辨这些声音是否来自本人。

AI语音技术的迅猛发展不仅带来了诸多便利,同时也暴露出一系列新的社会风险。雷军AI语音包的爆火提醒我们,这项技术在为娱乐和搞笑视频提供素材的同时,也可能成为诈骗者手中的利器。AI语音滥用现象迫使我们反思科技发展的双刃剑效应。

未来,防范AI语音诈骗不仅是个人和企业的责任,更需要技术提供商和社会各界携手合作,建立一个更加安全和可信的科技环境。技术的进步应当服务于社会,而非成为破坏社会信任的工具。唯有在监管、技术创新与公共意识三者之间找到平衡,才能真正实现科技的价值。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-10-09 11:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

雷军AI配音被“玩坏”,本人表示很愤怒,小米法务部出手,多数恶搞视频已删除
在刚刚过去的国庆假期中,短视频平台上出现了大量“雷军”的发言视频,在视频中,“雷军”锐评了堵车、假期、调休、游戏等一切热门话题,不仅言辞犀利,甚至不乏一些粗话脏话。有网友在雷军微
2024-10-09 16:03:00
靳东回应:“真假靳东”,喜爱我的观众被骗得很惨
...放弃了开卡贷款的念头。AI深度合成名人音视频刘晓庆、雷军、刘德华等成受害者!2025年3月3日,有网友向演员刘晓庆求证:“@刘晓庆我看到一个微信视频号发了很多你的视频,好像是
2025-03-06 19:51:00
音频播放量过亿!小米王化将恶搞雷军AI配音转发法务部
快科技10月9日消息,日前,短视频平台出现大量“雷军”配音视频,但实际上这些视频中的声音并非出自雷军本人,而是AI配音。各种配音模仿、恶搞视频层出不穷,截稿前,仅一家短视频平台上
2024-10-09 14:11:00
【宅男财经|财眼观两会】3月4日,全国人大代表雷军提出关于加强“AI换脸拟声”违法侵权重灾区治理的建议。人工智能深度合成技术的快速发展,推动了“AI换脸拟声”在影视、广告、社交等
2025-03-04 17:58:00
王化回应“网友恶搞 AI 雷军配音骂人”:已转给小米法务部
...字”的“名场面”,而在微博评论区中,有网友呼吁“把雷军 AI 语音骂人的事情先解决一下吧”并 @小米法务部 ,王化对此回应称,已经转给他们。近期网传的恶搞内容不仅包括辱骂和吐
2024-10-10 09:41:00
10月小米SU7要卖2万辆?网友似乎不太关心这个,问了雷军一个问题
...天同庆”的幸福感。小米汽车也是如此,假期刚刚结束,雷军就在社交媒体上披露了十一假期间,小米SU7的订单新增数量,雷军表示,在这7天里,小米SU7的大定数量增加了6000辆,1
2024-10-09 09:59:00
雷军提出建议!他本人也曾是“受害者”……
十四届全国人大三次会议开幕前,全国人大代表雷军提交了五份建议,其中包括一份:关于加强“AI换脸拟声”违法侵权重灾区治理的建议。全国人大代表雷军在建议中指出:人工智能(AI)深度合
2025-03-05 08:33:00
雷军AI配音被玩坏了 网友:追着我“骂”了整个国庆假期
【CNMO科技消息】“这xx绝对是来捣乱的!”多年以后,雷军的经典名梗貌似要重出江湖了,想必这就是雷军现在的真实内心想法。据CNMO了解,在国庆假期期间,雷军AI配音突然火爆全网
2024-10-08 13:47:00
雷军发视频回应AI语音:我非常困扰,网友:这段视频是真人还是AI?
10月29日,雷军发布视频,对10月初网友使用AI语音玩梗、骂人一事进行正式回应。雷军表示,最近两年AI特别火,技术进步特别快。前段时间,自己在刷抖音的时候,经常看到很多人在玩“
2024-10-29 17:04:00
更多关于科技的资讯: