• 我的订阅
  • 科技

提防“眼见不为实”滥用文生视频或引发诈骗

类别:科技 发布时间:2024-02-22 04:05:00 来源:每日看点快看

本文转自:广州日报

提防“眼见不为实”

滥用文生视频或引发诈骗

业内人士:技术和管理上都须划定“安全界限”

Sora带来的技术变革将深刻改变人们的生活。与此同时,“文生视频”也会带来技术风险和道德风险,专家表示,要防止这一技术被不法分子利用来诈骗。

文/广州日报全媒体记者 肖欢欢

著名人工智能研究专家王咏刚表示,现在“眼见不为实”的东西已经挺多了,Sora又将这种可能性扩大了一个数量级。“像我们今天会遇到大量经过技术美颜的美女帅哥主播,那明天就须适应大量由AI‘拍摄’甚至臆造的视频。现在随处都能看见AI生成的广告文案、招聘信息、产品使用说明书、AI时装模特、AI海报、AI漫画等,AI生成的视频今后必然会广泛进入到我们生活中。未来,或许人人都可以拍摄自己想看的科幻大片,可以在几分钟内为自己的产品生成促销广告片,可以将自己拍摄的城市景观一键渲染成各种繁华风貌……AI视频技术的成熟,可以为生活带来更多的想象空间。”

但王咏刚同时提醒,文本生成视频技术也会带来技术风险和道德风险,这是一把“双刃剑”。“AI被不法分子利用的风险一直存在,比如用AI模拟某个人的声音,AI图片或视频换脸这样的技术,已经被一些不法分子利用。AI视频生成未来也存在此类风险,并且风险更大。比如,有人可能会用文案生成视频来进行犯罪,尤其是针对老年人的犯罪。”

人工智能领域资深科学家王孝宇同样也对文本生成视频技术可能带来的风险表示忧虑。“如果有人掌握了某些人的照片或部分视频片段信息,然后根据文本来生成相关的新视频,再将这些视频用于犯罪,对于这样的风险必须高度警惕。比如,根据老人子女的照片或视频来生成一段新的视频,诸如出车祸之类的影像,以此来对老人进行诈骗,那风险是很大的,毕竟老年人的防范能力较弱。”他表示,文本生成视频技术一旦被推广,那么视频证据的法律效力也会面临更大考验。比如在提交视频证据时,就必须先对视频证据的真伪进行鉴定。

如何防止AI技术被滥用?王咏刚认为必须在几个方面同时努力:首先,科研与工程人员需要在技术层面严格限制AI生成视频时的内容可控性与合规性,利用AI技术识别危险的生成指令,拒绝生成有违法律、道德的视频内容;其次,科研与工程人员需要加紧研发AI视频的甄别技术——本质上,这是一种用AI来判定AI生成结果的技术,或者说是一种“AI对抗”技术;此外,政府在法律和监管层面需要针对新兴的AI技术不断完善相关的立法和执法工作,从管理上为AI技术划定一个“安全界限”。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-02-22 08:45:12

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

Sora震撼来袭,AI动画以假乱真了吗?专家:仍存硬伤
...成视频以假乱真,AI监管迎新挑战2月16日,OpenAI宣布推出文生视频大模型“Sora”,迅速引发AI圈的关注。Sora展示的全新影像画面精细生动
2024-02-20 11:48:00
本文转自:广州日报2月16日凌晨,OpenAI突然发布首个文生视频模型Sora,其横空出世对AI大模型行业无疑是继ChatGPT之后的又一次大震动。近日,同济大学艺术与传媒学院副
2024-02-23 04:01:00
商汤科技文生视频生成平台首次亮相,聚焦可控文生视频技术应用
...月23日举办的2024商汤技术交流日活动上,商汤原创打造的文生视频生成平台首次亮相,聚焦为用户提供可控的文生视频创作体验。现场,商汤科技董事长兼CEO徐立展示了三段完全由大模
2024-04-24 16:35:00
“Sora目前仍不够可靠,应用场景受限”
...的角色表情以及复杂的镜头运动。2月16日,OpenAI宣布推出文生视频大模型“Sora”,迅速引发AI圈的关注。Sora展示的全新影像画面精细生动
2024-03-02 10:00:00
...谷歌全面叫板OpenAI,其中视频生成领域,发布对标Sora的文生视频模型Veo。2024年6月,快手“可灵”视频生成大模型上线
2024-06-11 00:10:00
赛道正在变得拥挤 腾讯混元大模型杀入文生视频 让用户 “用起来”是关键
...)昨日,腾讯混元大模型正式上线视频生成能力,这是继文生文、文生图、3D生成之后,混元大模型的最新业务进展。与此同时,腾讯开源该视频生成大模型,参数量130亿,是当前最大的视频
2024-12-04 09:56:00
“360智脑大模型4.0”正式发布,图片、文字、视频互相生成,已接入360全家桶 | 最前线
...图像处理能力、语音处理能力以及视频处理能力,可实现文生文、文生图、文生表、图生图、图生文、视频理解等功能。图片、文字、视频互相生成,接入360“全家桶” 时隔两个月,如今的“
2023-06-14 14:31:00
腾讯混元上线文生视频并开源,120秒内成片!还有提示词建议
...天,腾讯混元大模型正式上线视频生成能力,这是在腾讯文生文、文生图、3D生成之后的最新技术进展。据腾讯混元多模态生成技术负责人凯撒现场介绍,此次更新中,HunYuan-Vide
2024-12-04 09:49:00
文生视频大模型,短视频的过弯点?
...今年初Sora的横空出世,这个可以创建长达一分钟视频的文生视频模型就成为了国内厂商追逐的焦点。6月初,快手自研的视频生成大模型“可灵”正式上线。可灵AI采用了与Sora相似的
2024-07-30 14:08:00
更多关于科技的资讯:
量子位「MEET2026智能未来大会」启动!
我们正迈入一个由人工智能重塑一切的新时代。智能技术已经深刻渗透进生产和生活,跨越了软件、硬件、机器人等不同形态,从工具发展为能深度理解人类需求的智能伙伴
2025-09-20 05:23:00
纵览·9张|空间魔术师
壹 随着网购的便利化和生活节奏的加快,许多人在购物的同时,却忽视了归纳和“断舍离”。于是整理收纳师进入了大家视野,成为走俏的新职业
2025-09-20 08:02:00
iPhone17系列正式发售,多地门店排起长队,有黄牛加价500元收购Max 256G版本
北京时间9月19日,iPhone 17系列正式发售,线上抢购到首批货源的用户将陆续收到新机,官方零售店也于8:00提前开门营业供预约取货用户取货
2025-09-19 12:06:00
在杭州看见创新未来 第四届数贸会全景前瞻
第四届全球数字贸易博览会(以下简称“数贸会”)将于2025年9月25日至29日在杭州大会展中心举行。作为我国唯一以数字贸易为主题的国家级
2025-09-19 14:13:00
走向国际,INGS英树三度荣获IFSCC青睐
2025年9月15日至18日,第35届IFSCC国际化妆品科学大会以“THE FUTURE IS SCIENCE”为主题于法国戛纳盛大启幕
2025-09-19 14:16:00
国网高密市供电公司:物资仓库里的“绣花功夫”
大众网记者 宋学敏 通讯员 赵雯雯 贾聚光 潍坊报道9月19日,走进国网高密市供电公司物资供应分中心的物资仓库,整齐的货架
2025-09-19 14:23:00
研发投入年增超40%!Coosea酷赛智能凭什么敢在创新上“下血本”?
在智能制造与AI设备行业加速迭代的浪潮中,研发实力已成企业核心竞争力的关键。近日,Coosea酷赛智能披露的研发投入数据引发行业关注——其研发投入年增超40%
2025-09-19 14:51:00
喜茶「超级植物茶」上新一周年,差异化引领新茶饮产品趋势
9月19日,喜茶「超级植物茶」迎来上新一周年。据官方数据显示,「超级植物茶」全系列产品已售出超1亿杯,喜茶坚持采用新鲜的羽衣甘蓝每日现榨
2025-09-19 15:01:00
京东运动户外品类日开启 运动、健身、户外出游全场景好物立减12%
秋高气爽迎国庆,正是走出家门、拥抱自然的好时机。9月19日晚8点至20日,京东运动户外品类日正式开启,携手阿迪达斯、北面
2025-09-19 15:08:00
华为云杨友桂:数智化转型从来不是 \
9月19日,在华为全联接大会2025上,华为高级副总裁、华为云全球Marketing与销售服务总裁杨友桂介绍了华为云如何通过四大关键竞争力
2025-09-19 15:24:00
焕新家庭储鲜,澳柯玛多款行业领先冷柜亮相电博会
鲁网9月19日讯2025年9月19日至21日,中国国际消费电子博览会在青岛国际会展中心盛大举行。作为温度科技专家的澳柯玛
2025-09-19 15:25:00
当下,金融科技行业正站在新一轮周期的关键拐点。当金融科技领域历经市场的深度重塑,行业周期拐点下,平台该如何突围?辽宁自贸试验区(营口片区)桔子数字科技有限公司(简称“桔子数科”)以科技赋能为锚点
2025-09-19 15:28:00
“媒体+科技”构建融媒服务新生态 长城新媒体集团与腾讯签订战略合作协议
金秋时节,硕果盈枝。2025年9月16日,长城新媒体集团有限公司与深圳市腾讯计算机系统有限公司在2025全球数字生态大会期间签订战略合作协议
2025-09-19 15:34:00
做教育行业的“清流”,高途以人文和体育探索营销新范式
进入2025年,教育行业在调整期后逐步迎来品牌动作的复苏潮。在行业变革的深水区,品牌营销往往是透视品牌预期和行业趋势的风向标
2025-09-19 15:34:00
近年来,以网剧、网文、网游为代表的中国文化出海“新三样”,在国际市场取得亮眼表现。9月12日,在《文化纵横》杂志社举办的“迈向全球的当代中国文化产业”研讨会上
2025-09-19 15:34:00