• 我的订阅
  • 科技

AI生图细思极恐 连它自己也分辨不出真假了

类别:科技 发布时间:2023-04-12 14:00:00 来源:凤凰网科技

AI生图细思极恐 连它自己也分辨不出真假了

图1:教皇穿着巴黎世家羽绒服的AI图片

凤凰网科技讯 北京时间4月12日消息,人工智能(AI)图像生成器的技术正在迅速发展,它不但能够蒙蔽人类,就连专门用于查图的AI工具也未必能分辨真假。

今年1月时,OpenAI的AI文字图片生成模型DALL-E等系统还不够先进,只能渲染出一个手指向后倾斜或多余眉毛在漂浮的人类。但是到了3月,一些图片已经逼真到足以欺骗很多人。

AI生图细思极恐 连它自己也分辨不出真假了

图2:图中有6个破绽

上图是一张由微软必应图像生成器生成的图片,里面有6个破绽,相对容易分别。如果不看标记,你能找出这6个图片漏洞吗?1.她的手指极长且扁平。 2.她的嘴巴似乎少了几颗牙齿,陷进了她的脸。3. 她的手进入了桌子里。 4. 他的手指又长又扁。 5.她的衬衫下垂不自然。6.桌子上的物品混合在一起。

但是,有些AI生成的图片已经达到了以假乱真的地步了。例如,特朗普被捕的图片,教皇方济各穿上巴黎世家白色羽绒服的照片,法国总统马克龙穿过抗议人群的照片。如果不是有人提醒,你可能很难看出这是假图片。这就是为什么埃隆·马斯克(Elon Musk)等科技领袖呼吁暂停AI开发等原因。虽然AI生成的内容可能很有趣,但它会给行业和日常互动带来风险。它可以被用来传播错误信息、侵犯知识产权或使人们的照片性感化。

AI生图细思极恐 连它自己也分辨不出真假了

图3:Optic图片工具都被AI欺骗了

一些开发人员正在开发工具,通过分析图像以寻找人工智能做图迹象的工具。但问题是,除非这些工具与它们所监视的图像生成器保持同步,否则即使是它们也可能被愚弄。例如,AI信任和安全公司Optic的工具就被欺骗了,它认为有87%的可信度相信教皇穿着巴黎世家羽绒服的图片是人类拍摄的。(作者/箫雨)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-04-16 19:45:15

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

2023 年度热词,只能是它
...里,「真实」与「幻觉」的交锋,因为 AI 出现在文字、图片、歌曲、视频等一切内容。MidJourney 让教皇穿上了巴黎世家风格的羽绒服
2023-12-07 15:47:00
号称准确率达98%的AI图片检测工具开启内测,这能解决AI图片混淆视听的问题吗
...现确实很有必要,当前的AI文生图的逼真程度越来越高,真假难辨,一些离谱的AI生成图暂且不论,已引发人们普遍担忧的是AI生成图对于人类知识库的污染问题,网络出现了大量看起来非常
2024-05-10 16:12:00
AIGC大肆污染互联网,防范垃圾内容要“用魔法打败魔法”?
...神经。过去半年我们已经知道,ChatGPT 等生成式 AI 会不顾真假,生成海量似是而非的内容。而由 AI 生成的虚假内容又会被其他 AI 拿来学习后
2023-06-29 16:19:00
Midjourney V6超强升级,细节拉满更懂人话,分辨率提升2倍,网友惊呼太牛 | 最前线
...行更多个性化的设计、具备轻微的文本绘制能力等等。从图片质量上看,Midjourney V6和以往相比,有了飞跃式的提升。下面是V5和V6图的对比,可以发现V6生成的图片在材质
2023-12-22 12:44:00
...音视频,颠覆了“有图就有真相”的常规认知,让人难辨真假。技术应当以人为本,流量更应向上向善。AI技术作为一把双刃剑,在帮助创作者创造更加丰富多元的内容的同时,也让部分不法分子
2024-07-24 12:29:00
《圣斗士星矢》中,沙加为什么坚持认为教皇是正义的?
...安全作为第一要务。那些空口无凭、道听途说的传言,“真假教皇”、“真假女神”,都是对女神雅典娜和圣域教皇的大不敬,所以,沙加不会信,也不能信。写在最后:《圣斗士星矢》中的许多人
2023-04-25 12:32:00
网传“女子电动车被查后猝死” 发布者利用AI工具编造谣言被行拘
...视频,颠覆了人们“有图有真相”的常规认知,让人难辨真假。针对所谓“陕西澄城县一女子电动车被查扣猝死”这起造谣案例,记者分析发现,网络博主田某造谣的套路大致可以分为以下几步:第
2024-07-25 13:59:00
美女刷屏真假难辨网友:警惕ai网恋诈骗
什么?这些不是真人照片,都是AI画出来的?!最近这样一组美女图片刷屏了,许多人看到第一反应都是“AI逼真到这个份上了?”。直到看到手部露出了破绽,才敢确定确实是AI画的。原来在C
2023-02-15 15:50:00
人工智能:反诈新利器
...其是深度伪造视频。网络上的信息来源众多,鱼龙混杂,真假难辨,人工智能会如何检测网络虚假信息?近日,国家金融监督管理总局北京监管局提示了三类新型骗局:校园贷款连环套、“AI 换
2023-11-13 15:41:00
更多关于科技的资讯: