• 我的订阅
  • 科技

谷歌DeepMind推出SynthID工具,能在AI生成的图像中嵌入隐形水印

类别:科技 发布时间:2023-08-30 10:15:00 来源:IT之家

IT之家 8 月 30 日消息,为了应对日益增长的 AI 生成图像的问题,谷歌 DeepMind 团队今日推出了一款名为 SynthID 的工具,可以在 AI 生成的图像中嵌入人眼不可见的水印,但可以用专门的人工智能检测工具检测出来,以便于区分真实和虚假的内容。该工具已经在谷歌云平台上向部分客户开放。

谷歌DeepMind推出SynthID工具,能在AI生成的图像中嵌入隐形水印

SynthID 的原理是在图像的像素中嵌入一个水印,但不会影响图像本身的质量和体验。该水印可以抵抗裁剪、缩放等常见的图片编辑操作,只有专门的 AI 检测工具才能识别出来。

谷歌 DeepMind 的 CEO Demis Hassabis 表示,这种水印随着 AI 模型的改进,会变得更加隐蔽和强大。

谷歌DeepMind推出SynthID工具,能在AI生成的图像中嵌入隐形水印

SynthID 工具会告诉你图像是人工智能生成的可能性有多大

Hassabis 说,SynthID 是为了解决深度伪造(deepfake)等潜在危险的问题而开发的。他认为,在 2024 年美国和英国即将举行大选的背景下,建立 AI 图像识别系统是非常重要的。他还表示,SynthID 的基本思想也可以应用于视频和文本等其他媒体。

目前,SynthID 只能在谷歌云平台上使用,主要针对使用 Vertex AI 平台和 Imagen 图像生成器的客户。Hassabis 希望通过真实场景的测试,让 SynthID 变得更好。然后,谷歌将把它用于更多地方,与更多合作伙伴分享,并提高公众的意识和教育。

IT之家注意到,除了谷歌之外,还有许多其他公司也在致力于建立 AI 保护和安全系统。例如,Meta、OpenAI 等公司正在使用一种名为 C2PA 的协议,利用加密元数据来标记 AI 生成的内容。Hassabis 说,SynthID 可能会成为一个互联网范围内的标准之一。但他也强调,这只是一个初步尝试,并不是解决深度伪造问题的万能药。他说,“在我们证明了技术基础部分有效之前,考虑扩展和社会讨论还为时过早。”

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-08-30 11:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

谷歌也推出“大模型商店”,发布AI图像加水印工具
...模型和工具。·谷歌宣布了一个名为SynthID的新工具:嵌入水印以表明图像是由人工智能创建的。这项功能由人工智能实验室Google DeepMind的技术提供支持
2023-08-30 14:08:00
...训练对应的鉴伪大模型,从而提高鉴伪效率。注入“数字水印”,进行主动防御随着AI技术发展,AI生成的视频已经越来越“精美”乃至“完美”,不要说人眼无法识别,可能连普通的鉴伪大模
2024-12-24 11:23:00
ai生成数字水印可被轻易破解
...,美国马里兰大学的一个研究小组对AI生成内容的“数字水印”技术可靠性进行研究,发现这一技术可被轻易破解。该校计算机科学教授SoheilFeizi面对AI生成图像的水印现状时直
2023-10-07 01:01:00
...为或数据发出警告。另一方面则要完善AI识别工具与数字水印。目前一些AI生成的图像会在四角位置标注半透明水印,但这类水印很容易被截除。因此,探索混入图片元数据、难以移除的隐性水
2025-01-20 07:09:00
AI一本正经地胡说八道 有种办法可以识破它
...队在《自然》(Nature)上发表的封面文章提供了一种文本水印方案,可以提高 AI 生成文本的检测精度。AI 生成内容检测的必要性在文本、图像和音乐中,AI 生成的文本是最难
2024-12-23 17:03:00
meta推出全新ai图像生成器,可创建高分辨率图像
...问题,Meta表示将开始向ImaginewithMeta生成的图像添加隐形水印,这些水印将由人工智能模型生成,并可由相应模型检测
2023-12-07 13:34:00
OpenAI自研反AI神器,憋了两年啥也不是?
...OpenAI为何对这个功能如此纠结?更重要的是,这个所谓的水印真的能百分百破解GPT生成的文本吗?给GPT打“码”想象一下
2024-08-11 19:03:00
OpenAI开发ChatGPT「反作弊神器」,99.9%超高命中率!但没发布
【新智元导读】OpenAI又左右互搏上了,给AI生成的文本打水印,高达99.9%准确率抓「AI枪手」作弊代写。去各大高校图书馆转一圈,会发现头上一副耳机、手边一杯咖啡,电脑上一个
2024-08-06 09:28:00
photomator3.3版本更新,新增水印工具
...闻稿,宣布推出Photomator3.3版本更新,重点引入了全新的水印工具,并邀请更多Beta用户,测试全新的文件浏览功能
2023-12-23 15:24:00
更多关于科技的资讯: