• 我的订阅
  • 科技

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

类别:科技 发布时间:2024-11-22 09:49:00 来源:机器之心Pro

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

近日,DeepMind 团队将水印技术和投机采样(speculative sampling)结合,在为大语言模型加入水印的同时,提升其推理效率,降低推理成本,因此适合用于大规模生产环境。这项研究发表在了 Nature 杂志上,给出了两种具体的结合方法,分别在水印检测效果和生成速度上达到了现有最优水平,但无法同时兼顾两者。

无独有偶,另一组来自马里兰大学的研究人员针对同一个问题进行了理论角度的深入分析。他们发现了一个「不可行」定理,证明了不存在一个算法可以同时达到最优的推理效率和最高的水印强度。因此,任何水印系统都必须在这两个目标之间进行权衡。这项名为「Inevitable Trade-off between Watermark Strength and Speculative Sampling Efficiency for Language Models」的研究已被 NeurIPS 2024 会议接收。

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

论文地址: https://arxiv.org/pdf/2410.20418 代码仓库: https://github.com/xiaoniu-578fa6bff964d005/AcceleratedUnbiasedWatermark

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

无偏水印与投机采样方法

无偏水印方法 [1] 是一种将水印嵌入到生成文本的技术,它在理论上保证不影响生成文本的质量和多样性,并让水印无法被人察觉。这种水印方法可用于版权保护和来源追踪。其核心思想是在生成过程中对候选 token 的概率进行重新加权,并要求调整后的概率分布在对水印的随机私钥进行平均后,在数学期望上与原始分布相同,从而避免引入偏差。

投机采样方法 [2,3] 是一种加速大语言模型推理的技术。此方法利用较小的草稿模型快速生成草稿序列,再通过目标模型对这些草稿进行验证和修正。草稿模型规模较小,生成速度更快但质量较低;目标模型并行进行验证,接受符合条件的部分。这种方法可以在保持生成质量的同时,显著提升推理效率,降低计算成本,已成为大规模应用中不可或缺的工具。

「不可行」定理

研究者提出了一个两次重加权框架,分别对草稿模型和目标模型的输出分布进行重加权。这个框架具有很高的自由度,两次重加权函数可以不同,验证算法也可以任意选择,只要满足最终算法保持输出概率分布,从而维持输出质量即可。

在此框架下,研究者严格描述并证明了一个「不可行」定理:当词汇表大小大于 2 时,任何试图同时保持水印强度和加速效果的方法都必然使用两个平凡的重加权函数。

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

这个定理揭示了水印强度和投机采样效率之间存在一个不可避免的权衡,必须在两者之间做出选择。任何潜在的方法都无法同时达到在不考虑加速情况下最好的水印技术的检测效率,和在不考虑水印情况下最好的投机技术的加速效果。此结果也为未来的研究指明了方向:在设计新算法时研究者需要考虑这个理论限制,根据应用需求在两个目标之间进行平衡。

两种结合方法

即便「不可行」定理揭示了水印强度和采样效率之间存在不可避免的权衡,此研究给出了两种具体的结合水印和投机采样的方法,使得其分别满足以下两点性质:

1.保持水印强度的方法优先确保水印的可检测性,即使这可能会牺牲一定的采样效率。这种方法首先对目标模型和草稿模型的输出概率分布进行重加权并从中采样,然后基于两个重加权分布进行投机采样。

2.保持采样效率的方法优先保证生成速度,即使水印的强度可能有所降低。这种方法仍然对目标模型和草稿模型的输出概率分布进行重加权并从中采样,但接下来基于两个未经过重加权的分布进行投机采样。

这两种方法体现了不同的取舍,使用者可以根据具体应用场景和需求进行选择。

实验结果

研究人员在多种文本生成任务以及多种语言模型上进行了实验。他们引入了两个指标:平均每步接受的 token 数(AATPS)衡量投机采样效率,每个 token 的平均负对数 P 值(ANLPPT)衡量水印强度。

NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到

实验结果验证了理论分析的正确性,证实了水印强度和采样效率之间确实存在权衡。保持水印强度的方法在水印强度上与传统无偏水印方法相当,但采样效率相比原始投机采样方法有所下降;保持采样效率的方法在采样效率上与原始投机采样方法相当,但水印强度有明显降低。这表明根据实际需求,可以选择优先保证水印强度或采样效率的策略。

总结

此研究从理论角度证明了水印可检测性和投机采样效率之间存在根本冲突,这种冲突并不仅限于现在已有的方法,而是一个普遍规律。鉴于投机采样已经成为降低推理成本不可或缺的工具,高可检测水印系统带来的推理成本增加在未来将持续存在。

将水印技术与投机采样结合这个行为虽然可以让水印更接近实用,但同时也可能带来一些伦理问题,如未经披露的跟踪行为。在实际应用中,人们应当谨慎、合乎伦理地应用无偏水印方法,并向用户明确说明其存在,工作原理和意义。

[1] Unbiased Watermark for Large Language Models

[2] Fast Inference from Transformers via Speculative Decoding

[3] Accelerating Large Language Model Decoding with Speculative Sampling

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-11-22 12:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

AI一本正经地胡说八道 有种办法可以识破它
...队在《自然》(Nature)上发表的封面文章提供了一种文本水印方案,可以提高 AI 生成文本的检测精度。AI 生成内容检测的必要性在文本、图像和音乐中,AI 生成的文本是最难
2024-12-23 17:03:00
谷歌DeepMind研究再登Nature封面,隐形水印让AI无所遁形
...了Nature期刊的封面,研究人员开发了一种名为SynthID-Text的水印方案,已经在自家的Gemini上投入使用
2024-11-09 13:34:00
...或视频分享到网上时,我都会先给文件添加属于我自己的水印,减少被他人盗用的情况。那你知道图片怎么加水印吗?今天就给大家分享几个我个人觉得还不错的方法,感兴趣的小伙伴可以参考哦!
2023-01-15 17:38:00
...本没有财力物力准备这些。在明朝开始,银票上还出现了水印技术。当时的水印,是指在造纸过程中改变纸张的厚度和密度形成的图案,一般人根本无法掌握制造这种水印的具体方法。延伸到现在,
2023-05-06 11:18:00
如何在图片上加水印?5个方法教你轻松搞定
给图片加水印是一种保护原创作品的重要方式,尤其在社交媒体和互联网时代。水印不仅能防止盗用,还能彰显个人或品牌的独特性。本文将为大家介绍5个出色的图片加水印方法,并详细讲解其操作方
2024-07-13 10:39:00
...。其实解决的方法很简单,只要在自己的图片中加上个人水印,就可以解决这一现象了。那大家知道如何加水印在图片上面吗?不知道也没关系,这不,我今天带来了3个简单快速的加水印方法,快
2023-03-08 11:53:00
...张好看的图片,想当成壁纸来使用,可是图片上偏偏带有水印。难道真的就只能放弃使用吗?今天,小编就带来了2种图片去水印方法,让你摆脱图片水印烦恼!01、万能图片转换器这是一款全能
2022-12-23 10:55:00
...看的图片,想要保存下来做壁纸,但正中间却有个大大的水印,十分影响视觉效果;又或者是看到一张好看的头像,却由于上面的某一个位置上附有水印等等这样的情况,让我们无法直接进行使用,
2022-12-24 11:22:00
水印有着许多的用途,它既可以表示产权的归属,又能起到一个信息展示和美化的作用。那么面对水印,我们该如何使用电脑去除它们呢?水印的样式有很多种,小编今天介绍的这些方法可以去除各种样
2022-12-24 03:00:00
更多关于科技的资讯:
上海乐高乐园票价公布:成人最低价319元!
快科技4月2日消息,上海乐高乐园今天正式公布票价,上海乐高乐园度假区采用六级票价体系,该票价体系基于季节性客流预测,价格从255元到599元不等
2025-04-02 10:40:00
真我GT7官宣本月发布!首批搭载天机9400+
快科技4月2日消息,真我GT7今天正式官宣,将在本月发布。官方还强调“没有3nm,怎敢称性能旗舰”,而真我GT7将首批搭载联发科天机9400+旗舰芯片
2025-04-02 10:40:00
看!宇宙中最惊艳的“光之指环” 爱因斯坦做梦都想见到
快科技4月2日消息,爱因斯坦广义相对论预测的引力透镜效应,相信大家都有所耳闻,而在引力效应的实际体现中,最神秘、最美丽的形态
2025-04-02 11:10:00
欧洲最大廉价航拟购买C919:只要价格比空客便宜20% 就下单
快科技4月2日消息,据媒体报道,近日,欧洲廉航瑞安航空CEO 奥利里表示:“C919飞机只要价格够给力,比空客便宜10%-20%
2025-04-02 11:10:00
一加13T确认6开头电池!唯一一款6000mAh+小屏旗舰
快科技4月2日消息,一加13T日前已经正式官宣,将在本月正式发布,是一款小屏旗舰。今天李杰直接官方爆料:一加13T冰川电池容量6开头
2025-04-02 11:10:00
性价比更高!RTX 5080移动版实测:比RTX 5090移动版低15%
快科技4月2日消息,根据Notebookcheck的最新测试结果,RTX 5080移动版的性能,比RTX 5090移动版低约10%到15%
2025-04-02 11:10:00
全球首例!武汉团队给大脑画出精准“3D地图”
快科技4月2日消息,据报道,华中科技大学同济医学院附属协和医院叶哲伟教授、周弘博士团队与武汉衷华脑机融合科技发展有限公司联合发布了全球首例微米级脑机接口多模态三维图谱
2025-04-02 11:10:00
内蒙老牌科尔沁:风干牛肉4两20元抄底
天猫科尔沁食品旗舰店,科尔沁风干牛肉200g日常售价67元,今日下单3件可用141元冲量券,3袋1.2斤实付60元包邮
2025-04-02 11:10:00
50万内品价比最高SUV!零跑C10交付突破10万大关!3月交付超1.2万台
快科技4月2日消息,零跑汽车宣布零跑C10累计交付突破10万台,3月交付超1.2万台。此外,官方宣布即刻下定可享至高立省51680元
2025-04-02 11:10:00
京东又涨工资了:达达员工今年升至19薪 明年20薪 还送股票
快科技4月2日消息,京东又宣布涨工资了!今天,京东黑板报宣布,达达员工薪酬将在今年升级至19薪,明年升级至20薪。此外
2025-04-02 11:10:00
常思思助阵!生活在左广州塔水上大秀开启非遗时尚新纪元
Deepseek眼里的非遗广州是怎样的?木棉花映红天际时,广绣在绸缎上绽放出灵动的花鸟,醒狮的金毛在阳光下闪烁着威严的光芒
2025-04-02 11:11:00
对话元戎启行周光:“车位到车位”的智驾,依靠的是高精地图,是“缝合怪物”
出品 | 搜狐科技作者 | 梁昌均编辑 | 杨锦“大模型经历了从专家系统到通才系统,再到真正强专家系统的阶段,智驾、机器人也会经历同样阶段
2025-04-02 11:29:00
Walmart线上店铺销量前十品类有哪些
Walmart作为全球最大的零售商之一,其线上店铺同样在全球电商市场中占有重要地位。根据最新的市场数据和趋势分析,带大家了解一下Walmart线上店铺销量前十的品类
2025-04-02 11:33:00
《易达威学术微课堂》首期录制圆满启动!对话五大领域学者
2025年3月——由易达威学术出版社打造的公益栏目《易达威学术微课堂》正式进入录制阶段,首期特邀来自中山大学、陕西科技大学
2025-04-02 11:40:00
强脑科技携非侵入式脑机接口技术亮相交个朋友直播间
4月1日晚,杭州“六小龙”之一的强脑科技,携其领先的非侵入式脑机接口技术走进交个朋友直播间,与罗永浩探讨脑机科技的实际应用
2025-04-02 11:46:00