• 我的订阅
  • 科技

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

类别:科技 发布时间:2024-11-22 09:49:00 来源:机器之心Pro

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

近日,DeepMind 团队将水印技术和投机采样(speculative sampling)结合,在为大语言模型加入水印的同时,提升其推理效率,降低推理成本,因此适合用于大规模生产环境。这项研究发表在了 Nature 杂志上,给出了两种具体的结合方法,分别在水印检测效果和生成速度上达到了现有最优水平,但无法同时兼顾两者。

无独有偶,另一组来自马里兰大学的研究人员针对同一个问题进行了理论角度的深入分析。他们发现了一个「不可行」定理,证明了不存在一个算法可以同时达到最优的推理效率和最高的水印强度。因此,任何水印系统都必须在这两个目标之间进行权衡。这项名为「Inevitable Trade-off between Watermark Strength and Speculative Sampling Efficiency for Language Models」的研究已被 NeurIPS 2024 会议接收。

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

论文地址: https://arxiv.org/pdf/2410.20418 代码仓库: https://github.com/xiaoniu-578fa6bff964d005/AcceleratedUnbiasedWatermark

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

无偏水印与投机采样方法

无偏水印方法 [1] 是一种将水印嵌入到生成文本的技术,它在理论上保证不影响生成文本的质量和多样性,并让水印无法被人察觉。这种水印方法可用于版权保护和来源追踪。其核心思想是在生成过程中对候选 token 的概率进行重新加权,并要求调整后的概率分布在对水印的随机私钥进行平均后,在数学期望上与原始分布相同,从而避免引入偏差。

投机采样方法 [2,3] 是一种加速大语言模型推理的技术。此方法利用较小的草稿模型快速生成草稿序列,再通过目标模型对这些草稿进行验证和修正。草稿模型规模较小,生成速度更快但质量较低;目标模型并行进行验证,接受符合条件的部分。这种方法可以在保持生成质量的同时,显著提升推理效率,降低计算成本,已成为大规模应用中不可或缺的工具。

「不可行」定理

研究者提出了一个两次重加权框架,分别对草稿模型和目标模型的输出分布进行重加权。这个框架具有很高的自由度,两次重加权函数可以不同,验证算法也可以任意选择,只要满足最终算法保持输出概率分布,从而维持输出质量即可。

在此框架下,研究者严格描述并证明了一个「不可行」定理:当词汇表大小大于 2 时,任何试图同时保持水印强度和加速效果的方法都必然使用两个平凡的重加权函数。

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

这个定理揭示了水印强度和投机采样效率之间存在一个不可避免的权衡,必须在两者之间做出选择。任何潜在的方法都无法同时达到在不考虑加速情况下最好的水印技术的检测效率,和在不考虑水印情况下最好的投机技术的加速效果。此结果也为未来的研究指明了方向:在设计新算法时研究者需要考虑这个理论限制,根据应用需求在两个目标之间进行平衡。

两种结合方法

即便「不可行」定理揭示了水印强度和采样效率之间存在不可避免的权衡,此研究给出了两种具体的结合水印和投机采样的方法,使得其分别满足以下两点性质:

1.保持水印强度的方法优先确保水印的可检测性,即使这可能会牺牲一定的采样效率。这种方法首先对目标模型和草稿模型的输出概率分布进行重加权并从中采样,然后基于两个重加权分布进行投机采样。

2.保持采样效率的方法优先保证生成速度,即使水印的强度可能有所降低。这种方法仍然对目标模型和草稿模型的输出概率分布进行重加权并从中采样,但接下来基于两个未经过重加权的分布进行投机采样。

这两种方法体现了不同的取舍,使用者可以根据具体应用场景和需求进行选择。

实验结果

研究人员在多种文本生成任务以及多种语言模型上进行了实验。他们引入了两个指标:平均每步接受的 token 数(AATPS)衡量投机采样效率,每个 token 的平均负对数 P 值(ANLPPT)衡量水印强度。

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

实验结果验证了理论分析的正确性,证实了水印强度和采样效率之间确实存在权衡。保持水印强度的方法在水印强度上与传统无偏水印方法相当,但采样效率相比原始投机采样方法有所下降;保持采样效率的方法在采样效率上与原始投机采样方法相当,但水印强度有明显降低。这表明根据实际需求,可以选择优先保证水印强度或采样效率的策略。

总结

此研究从理论角度证明了水印可检测性和投机采样效率之间存在根本冲突,这种冲突并不仅限于现在已有的方法,而是一个普遍规律。鉴于投机采样已经成为降低推理成本不可或缺的工具,高可检测水印系统带来的推理成本增加在未来将持续存在。

将水印技术与投机采样结合这个行为虽然可以让水印更接近实用,但同时也可能带来一些伦理问题,如未经披露的跟踪行为。在实际应用中,人们应当谨慎、合乎伦理地应用无偏水印方法,并向用户明确说明其存在,工作原理和意义。

[1] Unbiased Watermark for Large Language Models

[2] Fast Inference from Transformers via Speculative Decoding

[3] Accelerating Large Language Model Decoding with Speculative Sampling

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-11-22 12:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

AI一本正经地胡说八道 有种办法可以识破它
...队在《自然》(Nature)上发表的封面文章提供了一种文本水印方案,可以提高 AI 生成文本的检测精度。AI 生成内容检测的必要性在文本、图像和音乐中,AI 生成的文本是最难
2024-12-23 17:03:00
谷歌DeepMind研究再登Nature封面,隐形水印让AI无所遁形
...了Nature期刊的封面,研究人员开发了一种名为SynthID-Text的水印方案,已经在自家的Gemini上投入使用
2024-11-09 13:34:00
你知道图片怎么加水印吗?
...或视频分享到网上时,我都会先给文件添加属于我自己的水印,减少被他人盗用的情况。那你知道图片怎么加水印吗?今天就给大家分享几个我个人觉得还不错的方法,感兴趣的小伙伴可以参考哦!
2023-01-15 17:38:00
为什么我们从来没有听说过古代有人造假银票的呢
...本没有财力物力准备这些。在明朝开始,银票上还出现了水印技术。当时的水印,是指在造纸过程中改变纸张的厚度和密度形成的图案,一般人根本无法掌握制造这种水印的具体方法。延伸到现在,
2023-05-06 11:18:00
如何在图片上加水印?5个方法教你轻松搞定
给图片加水印是一种保护原创作品的重要方式,尤其在社交媒体和互联网时代。水印不仅能防止盗用,还能彰显个人或品牌的独特性。本文将为大家介绍5个出色的图片加水印方法,并详细讲解其操作方
2024-07-13 10:39:00
如何加水印在图片上面?这三个方法简单又快速!
...。其实解决的方法很简单,只要在自己的图片中加上个人水印,就可以解决这一现象了。那大家知道如何加水印在图片上面吗?不知道也没关系,这不,我今天带来了3个简单快速的加水印方法,快
2023-03-08 11:53:00
图片怎么去水印?2种方法让你摆脱水印烦恼!
...张好看的图片,想当成壁纸来使用,可是图片上偏偏带有水印。难道真的就只能放弃使用吗?今天,小编就带来了2种图片去水印方法,让你摆脱图片水印烦恼!01、万能图片转换器这是一款全能
2022-12-23 10:55:00
怎么去图片水印?这三种方法简单实用,新手也可以轻松学会!
...看的图片,想要保存下来做壁纸,但正中间却有个大大的水印,十分影响视觉效果;又或者是看到一张好看的头像,却由于上面的某一个位置上附有水印等等这样的情况,让我们无法直接进行使用,
2022-12-24 11:22:00
电脑去视频水印的方法有哪些-这几个小妙招赶紧学起来吧
水印有着许多的用途,它既可以表示产权的归属,又能起到一个信息展示和美化的作用。那么面对水印,我们该如何使用电脑去除它们呢?水印的样式有很多种,小编今天介绍的这些方法可以去除各种样
2022-12-24 03:00:00
更多关于科技的资讯:
最强天玑直屏旗舰!OPPO Find X8s+被低估:至少有7大升级
快科技4月5日消息,OPPO将于4月10日发布三款旗舰手机,分别是OPPO Find X8s、OPPO Find X8s+和OPPO Find X8 Ultra
2025-04-05 17:13:00
坦克500同级对手!北京越野BJ60雷霆版上市:搭载增程动力系统
快科技4月5日消息,北京汽车宣布北京越野BJ60雷霆魔核电驱珠峰版正式上市,作为2024款车型的小改款,提供两种配置选择
2025-04-05 17:13:00
女生发现杯中吸管脏成黑芝麻糊 网友看完称再也不用吸管杯
4月5日消息,生活中我们总是努力保持环境的整洁与卫生,但你知道吗?有些看似干净的日常用品可能比想象中要“脏”,比如吸管
2025-04-05 17:13:00
美国超市中国商品被民众抢购 甲亢哥来深圳狂卖3台华为三折叠
快科技4月5日消息,据国内媒体报道,美国宣布“对等关税”后,美国人开启疯狂囤货模式。50岁的纽约市民佩格罗(Noel Peguero)表示
2025-04-05 17:13:00
杭州电报业务5月1日退市!年轻人扎堆去体验 女孩发2封电报让朋友速回微信
据国内媒体报道,近日,不少年轻人来到浙江杭州武林广场电信营业厅打卡,只为赶在5月1日杭州电报业务退市前,体验一下“发电报”
2025-04-05 17:13:00
旗舰机彻底告别!手机曲面屏怎么消失了 三大原因让手机屏幕“掰直”
快科技4月5日消息,随着越来越多的旗舰机选择直屏,手机屏幕直曲之争终于画上了句号。未来,曲面屏即将淡出历史舞台,退居二线
2025-04-05 17:43:00
同比暴增126.8%!比亚迪方程豹3月销售8051台
快科技4月5日消息,方程豹官方宣布3月销量达到8051台,环比增长56.9%,同比增长126.8%。具体到车型,豹5车型3月销量为6036台
2025-04-05 17:43:00
史上最强小屏旗舰!一加13T根治小屏手机三大痛点
快科技4月5日消息,一加中国区总裁李杰为一加13T预热。李杰表示,我们在前期调研时发现,小屏手机电池小、续航差,手机特别容易发烫
2025-04-05 17:43:00
兜兜转转又回来了!厂商集体推进轻薄手机:用户受够半斤机了
传音在MWC 2025上推出概念机Tecno Spark Slim;三星推出神秘新机Galaxy S25 Edge,除超薄外观外
2025-04-05 18:13:00
“意念控制”成真!机器能与人脑对话了 我国脑机接口正式迈向产业化
快科技4月5日消息,据央视报道,最近,脑机接口在医疗领域的应用引发大家关注。“北脑一号”智能脑机系统作为我国在脑机接口技术领域取得的重要成果
2025-04-05 18:13:00
董宇辉晒与周杰伦合照:以一种未曾想到的方式相遇了
快科技4月5日消息,今日,董宇辉在社交平台上晒出和周杰伦的合照,并配文称:“十几年后,我和曾经耳机里听过无数遍的青春,以一种未曾想到的方式相遇了
2025-04-05 18:43:00
清明假期趵突泉人山人海 网友:感觉天下第一泉围了一亿人
4月5日消息,据媒体报道,清明假期正是踏青赏景的好时节,济南多个景区人山人海。在短视频平台上,多位网友晒出了趵突泉景区的现场视频
2025-04-05 18:43:00
打破技术垄断!GTC-80ⅡJ型钢轨探伤车亮相:毫米级数据误差
快科技4月5日消息,据报道,我国自主研发的GTC-80ⅡJ型钢轨探伤车近日正式亮相,成功打破了高端探伤设备长期依赖进口的局面
2025-04-05 19:13:00
纯电方盒子来袭!东风纳米06将于4月8日亮相:预计售价
快科技4月5日消息,日前,东风纳米06的更多信息曝光,该车定位为纯电动小型SUV,将于4月8日正式亮相。外观方面,新车采用封闭式前脸设计
2025-04-05 19:13:00
蔚来铁血换将,沈斐能否拯救乐道
漩涡中的蔚来,终于显出铁血的颜色。4月2日上午,乐道汽车总裁艾铁成宣布离职。紧接着,蔚来宣布原能源业务负责人沈斐担任乐道汽车总裁
2025-04-05 19:43:00