• 我的订阅
  • 科技

提防“眼见不为实”滥用文生视频或引发诈骗

类别:科技 发布时间:2024-02-22 04:05:00 来源:每日看点快看

本文转自:广州日报

提防“眼见不为实”

滥用文生视频或引发诈骗

业内人士:技术和管理上都须划定“安全界限”

Sora带来的技术变革将深刻改变人们的生活。与此同时,“文生视频”也会带来技术风险和道德风险,专家表示,要防止这一技术被不法分子利用来诈骗。

文/广州日报全媒体记者 肖欢欢

著名人工智能研究专家王咏刚表示,现在“眼见不为实”的东西已经挺多了,Sora又将这种可能性扩大了一个数量级。“像我们今天会遇到大量经过技术美颜的美女帅哥主播,那明天就须适应大量由AI‘拍摄’甚至臆造的视频。现在随处都能看见AI生成的广告文案、招聘信息、产品使用说明书、AI时装模特、AI海报、AI漫画等,AI生成的视频今后必然会广泛进入到我们生活中。未来,或许人人都可以拍摄自己想看的科幻大片,可以在几分钟内为自己的产品生成促销广告片,可以将自己拍摄的城市景观一键渲染成各种繁华风貌……AI视频技术的成熟,可以为生活带来更多的想象空间。”

但王咏刚同时提醒,文本生成视频技术也会带来技术风险和道德风险,这是一把“双刃剑”。“AI被不法分子利用的风险一直存在,比如用AI模拟某个人的声音,AI图片或视频换脸这样的技术,已经被一些不法分子利用。AI视频生成未来也存在此类风险,并且风险更大。比如,有人可能会用文案生成视频来进行犯罪,尤其是针对老年人的犯罪。”

人工智能领域资深科学家王孝宇同样也对文本生成视频技术可能带来的风险表示忧虑。“如果有人掌握了某些人的照片或部分视频片段信息,然后根据文本来生成相关的新视频,再将这些视频用于犯罪,对于这样的风险必须高度警惕。比如,根据老人子女的照片或视频来生成一段新的视频,诸如出车祸之类的影像,以此来对老人进行诈骗,那风险是很大的,毕竟老年人的防范能力较弱。”他表示,文本生成视频技术一旦被推广,那么视频证据的法律效力也会面临更大考验。比如在提交视频证据时,就必须先对视频证据的真伪进行鉴定。

如何防止AI技术被滥用?王咏刚认为必须在几个方面同时努力:首先,科研与工程人员需要在技术层面严格限制AI生成视频时的内容可控性与合规性,利用AI技术识别危险的生成指令,拒绝生成有违法律、道德的视频内容;其次,科研与工程人员需要加紧研发AI视频的甄别技术——本质上,这是一种用AI来判定AI生成结果的技术,或者说是一种“AI对抗”技术;此外,政府在法律和监管层面需要针对新兴的AI技术不断完善相关的立法和执法工作,从管理上为AI技术划定一个“安全界限”。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-02-22 08:45:12

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

Sora震撼来袭,AI动画以假乱真了吗?专家:仍存硬伤
...成视频以假乱真,AI监管迎新挑战2月16日,OpenAI宣布推出文生视频大模型“Sora”,迅速引发AI圈的关注。Sora展示的全新影像画面精细生动
2024-02-20 11:48:00
本文转自:广州日报2月16日凌晨,OpenAI突然发布首个文生视频模型Sora,其横空出世对AI大模型行业无疑是继ChatGPT之后的又一次大震动。近日,同济大学艺术与传媒学院副
2024-02-23 04:01:00
“Sora目前仍不够可靠,应用场景受限”
...的角色表情以及复杂的镜头运动。2月16日,OpenAI宣布推出文生视频大模型“Sora”,迅速引发AI圈的关注。Sora展示的全新影像画面精细生动
2024-03-02 10:00:00
“360智脑大模型4.0”正式发布,图片、文字、视频互相生成,已接入360全家桶 | 最前线
...图像处理能力、语音处理能力以及视频处理能力,可实现文生文、文生图、文生表、图生图、图生文、视频理解等功能。图片、文字、视频互相生成,接入360“全家桶” 时隔两个月,如今的“
2023-06-14 14:31:00
...60秒。但同时这也衍生出新的问题:用别人的文案使用Sora文生视频侵权吗?生成的视频版权算谁的?“全新创作不算侵权,指定画面重绘可能有风险”针对用Sora文生视频的版权问题,
2024-02-21 07:54:00
...AI技术引发的产业革命还在继续。2024年春节期间OpenAI发布文生视频模型Sora一夜爆火,掀起包括短视频制作,短视频营销等多个领域的技术创新和商业化落地想象力。近期,微
2024-02-23 10:45:00
Sora概念引爆A股!谁在布局AI视频
ChatGPT风潮未过,OpenAI近日再放“大招”,发布文生视频模型Sora,再度点燃了A股的热情。2月19日,相关概念股集体大涨
2024-02-19 20:50:00
AI“文生视频”如何改变未来?业内:AI很难做到复杂的情感
...,随着人工智能(AI)技术的发展,尤其是OpenAI最新的“文生视频”技术Sora,这一切可能都将改变。Sora可以根据简单的文字提示生成内容丰富、画面逼真的视频,甚至可以自
2024-02-18 19:07:00
人工智能热度攀升市场广阔
今年以来,人工智能产业热度持续攀升。文生视频软件Sora、文生音乐软件Suno等人工智能应用不断涌现,带给人们冲击的同时,也在影响着千行百业。本报今起推出“聚焦人工智能发展”系列
2024-04-22 10:41:00
更多关于科技的资讯: