• 我的订阅
  • 社会

AI检测AI:“矛”更利还是“盾”更坚

类别:社会 发布时间:2024-08-16 10:04:00 来源:缘之心

【AI世界】

◎本报记者 吴叶凡

近年来,人工智能(AI)技术推动生产力快速发展,但同时也因技术滥用导致各种问题。

为监督AI技术使用,如今市面上不乏各类用于检测AI生成内容(AIGC)的工具,如普林斯顿大学学生开发的GPTZero、斯坦福大学研究团队推出的DetectGPT等。我国一些研究团队也陆续发布各类检测工具,如西湖大学文本智能实验室研发的Fast-DetectGPT。

人类的创作与AIGC之间存在哪些差异?AI检测工具如何根据差异进行识别?AI检测工具如何应对越来越聪明的大模型?带着这些问题,记者采访了有关专家。

AI创作套路化明显

“虽然大模型在不断发展迭代,但到目前为止,AIGC与人类的创作在用词用语、逻辑语法等方面依旧存在明显区别。”Fast-DetectGPT研发者之一、西湖大学文本智能实验室博士生鲍光胜说。

在用词用语上,AIGC有相对固定的偏好。“不难发现,一些词语会反复在语段中出现。”鲍光胜举例说,有研究发现,大模型应用于英语学术论文写作时,“delve”(深入研究)一词的使用频率大大提高,这是因为大模型习惯用这个词对语句进行润色修改。

在逻辑语法上,AIGC惯常使用的一些语法搭配方式,在人类创作中可能并不常见。“受模型建模的影响,AIGC有相对固定的行文逻辑和表述模式,且这些模式会不断地被重复。人类在行文上则更为灵活,没有固定套路。”鲍光胜说。

北京大学信息管理系师生比较了AI生成与学者撰写的中文论文摘要。研究结果同样显示,AI生成的摘要具有较高同质性和较强写作逻辑性,并惯用归纳总结等学术话语体系;学者撰写的摘要则具有显著个性化差异,使用凸显实际含义的搭配较多,并常用与国家政策密切相关的词语。

哈尔滨工业大学一名研究生向记者讲述了他使用大模型的实际感受:“当我给大模型提供一些材料让它扩写,它每次都用相同的套路——把给定的材料拆解开,分为若干点论述。总体来说感觉它写得比较‘僵’。”

AIGC相对套路化的创作,可能会影响人类的用语习惯。“随着越来越多人用AI创作或润色文字,人类会受到潜移默化的影响,这或将影响整个社会对语言的使用。”鲍光胜说。

三种路径识别文本

如何准确识别AI生成内容?鲍光胜介绍,目前主要有三种技术路径进行检测,分别是模型训练分类器法(也被称为监督分类器法)、零样本分类器法、文本水印法。“三种检测方法本质上都是利用AI检测AI,且各有优劣。”鲍光胜说。

模型训练分类器法,首先要收集大量人类创作内容与AIGC,然后以此为基础训练一个能区分两类内容的分类器。“这是目前被广泛使用的一种方法,但缺点较为明显。”鲍光胜解释,用于训练分类器的数据有限,很难覆盖所有类型和语言的文本。分类器在训练数据覆盖的文本领域或语言上检测准确率较高,反之准确率则较低。而且,模型训练往往需要较高成本,数据规模越大,训练成本越高。

相比之下,零样本分类器法不需要对机器进行训练,也无需收集数据。它利用已训练好的大模型,抽取语言模型生成文本的特征,据此来区别人类与机器。“似然函数是零样本检测法中比较常用的基准之一,它可以简单理解为一段文本在某个模型的建模分布中出现的概率。概率是一种特征,不同的概率体现了人类创作内容与AIGC的差异。”鲍光胜进一步解释,“零样本分类通过综合考虑多种函数特征来区分人类创作内容与AIGC。”

如今,很多大语言模型几乎覆盖了互联网上的全部数据。因此,相比于模型训练分类器,零样本分类器在不同领域、不同语言的文本上表现较为一致。

不过,零样本分类器也存在明显缺点。一方面,现有零样本分类器依赖生成文本的源语言模型进行检测,这意味着如果是未知源模型生成的文本,分类器就无法准确检测。另一方面,为提高检测准确率,零样本分类器往往需要多次调用模型,这增加了模型的使用成本和计算时间。

“文本水印法则是一类‘主动方法’。区别于前两类方法,它不是检测已生成的文本,而是在AI生成文本时加入水印。人类虽然看不出这些水印,但却能通过技术手段检测出来。”鲍光胜说,文本水印法的准确率较高,但缺点在于水印可能被人为弱化甚至移除。此外,对于无法访问模型内部结构的大语言模型,技术人员可能无法在生成内容时成功加入水印。

检测技术需不断改进

“未来,我们要不断更新、完善现有技术,力争实现快速、准确、低成本检测,在大模型这把‘矛’越来越锋利的同时,让检测技术这面‘盾’更为坚固。”鲍光胜说。

记者了解到,为提升检测准确性,目前市面上的商用AI检测软件大多融合了多种技术手段。国内外研究团队也在进一步完善相关技术。

例如,西湖大学文本智能实验室团队在DetectGPT基础上研发的Fast-DetectGPT模型,可提升AI检测准确性,缩短检测时间。“Fast-DetectGPT与其他零样本分类器原理一致。其中一个创新点在于,我们提出通过条件概率曲率指标进行检测。”鲍光胜说,“与DetectGPT相比,Fast-DetectGPT在速度上提升340倍,在检测准确率上相对提升约75%。”

对AI检测AI的前景,有两种截然不同的观点。一种观点认为,未来AIGC将会与人类创作极为相似,以至于检测工具无法判别。还有一种观点认为,随着技术发展,检测技术或将赶超大模型技术,实现对AIGC的有效识别。

“目前,无论是AI生成的文字、图片还是视频,都在技术可识别的范畴之内。相较于文字,图片和视频甚至可以直接被专业人士肉眼识别。期待未来通过大模型技术的不断进步,推动检测技术发展。”鲍光胜说。(来源:科技日报)【编辑:刘阳禾】

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-08-16 11:45:04

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

AI一本正经地胡说八道 有种办法可以识破它
...文章提供了一种文本水印方案,可以提高 AI 生成文本的检测精度。AI 生成内容检测的必要性在文本、图像和音乐中,AI 生成的文本是最难以检测的。因为现有的图像和音乐生成技术尚
2024-12-23 17:03:00
复旦大学推出AI生成文本检测软件“谛听”
...流畅度也令人惊叹,越来越难以辨识。在这一背景下,AI检测文本工具可以通过对生成文本进行追踪和检测,来识别文本是否由AI生成,这也成为防止大型AI语言模型用于作弊等行为的利器。
2023-03-18 11:36:00
大学生的“福利”来了 知网专利可检测文本是否为AI生成
...网数字出版技术股份有限公司申请的“一种AI生成文本的检测方法、装置、介质及设备”专利公布。摘要显示,通过将待检测文本输入文本分类模型,得到文本为AI生成的第一概率值;基于待检
2023-12-06 15:20:00
ChatGPT开发商OpenAI推出新工具 可检测文本是否由人所写
...周二,AI研究初创公司OpenAI宣布推出一款新工具,可用于检测文本是出自人类之手还是由AI生成。这款名为分类器的工具将标记OpenAI产品(如ChatGPT)以及其他AI创作软件编写的内容
2023-02-01 08:00:00
人工智能写作检测工具不靠谱 美国宪法竟被认为是机器人写的
...如果将美国最重要的法律文件美国宪法输入一些专门用来检测人工智能写作的工具中,会得到一个令人惊讶的结果:美国宪法几乎肯定是由人工智能写的。除非詹姆斯・麦迪逊(美国第四任总统,“
2023-07-17 16:06:00
再也不能用chatgpt写作业了,新算法给ai生成文本加水印
...即把信号嵌入到生成的文本中,让算法能从一小段token中检测出来。最近,OpenAI方面也表示,考虑在ChatGPT中添加水印
2023-02-09 14:19:00
新华网举行“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会
...构共同研发打造的“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会日前在北京举行。该平台旨在联合行业权威生态伙伴共同加强AIGC行业监管,为AI
2023-07-12 17:43:00
用AI识别AI:西湖大学一项研究可高效检测AI生成文本
...项研究提出一种高准确率、高速、低成本、通用的新文本检测方法——Fast-DetectGPT,无需训练即可识别各种AI大语言模型生成的文本内容
2024-06-29 09:17:00
...法,对毕业设计(论文)中的人工智能生成内容占比进行检测。(据5月13日《北京青年报》)随着生成式AI的广泛应用,越来越成熟的AI大模型平台成为人们进行图文创作、数据处理的重要
2024-05-15 06:26:00
更多关于社会的资讯:
近日,张家口农商银行河子西支行员工以专业的态度和细致的服务为老年客户提供帮助,获得客户称赞。当日,一位老奶奶来到张家口农商银行河子西支行营业厅
2025-09-08 15:14:00
八月的深圳,热浪与热情一同奔涌。平湖南货场一声悠长汽笛划破天际,一列满载大湾区“智造”产品的中欧班列再度启程,犹如一位熟悉的老友
2025-09-08 15:39:00
我是东营人丨从一口“妈妈菜”到一生“东营人” 一家亲妈妈菜创始人韩晓宁与东营的双向奔赴
编者按:我们从四方而来,被这片土地深情拥抱,用时光将异乡熬成了故乡,也拥有了共同的名字,东营人。这里,用包容浇灌梦想,用真诚厚待奋斗
2025-09-08 15:42:00
及时语|影院厕所贴异性明星照片,过分追求创意而忽略使用者感受是本末倒置
大皖新闻讯 近日,南通某影院女厕隔间门贴男明星照片引发争议,影院工作人员表示,男厕所也贴了女明星,目前没有收到投诉,对网友意见会进行反馈
2025-09-08 15:44:00
奥的斯电梯浙江分公司被罚:未按电梯安全技术规范进行维护保养
齐鲁晚报·齐鲁壹点记者于信用中国行政处罚栏获悉,9月5日,奥的斯电梯(中国)有限公司浙江分公司(下称“奥的斯电梯浙江分公司”)收行政处罚决定书
2025-09-08 15:57:00
生命接力,爱满人间——平度市第三人民医院急症孕妇获及时救治,母子平安锦旗表谢意
鲁网9月8日讯近日,一位年轻的母亲怀抱健康可爱的宝宝,在家人的陪同下,来到平度市第三人民医院妇产科,将一面写有“生命护航
2025-09-08 16:02:00
2025年“叶圣陶教师奖”颁奖仪式在昆明举行
中国网北京9月8日讯 日前,2025年“叶圣陶教师奖”颁奖仪式在昆明举行。民进中央主席蔡达峰,副主席庞丽娟、李玛琳、何志敏
2025-09-08 16:10:00
泰安市第一人民医院支医专家倾情帮扶,复杂冠脉介入手术打通患者“心”的“生命线”
胸闷,胸痛!82岁的巫溪老汉心脏主要血管严重堵塞,最狭窄之处几乎完全闭塞。泰安市第一人民医院心内一科医疗专家杨俊杰带领巫溪县人民医院心脏介入团队一起
2025-09-08 16:28:00
公交司机停车清障暖人心,小小善举守护道路通畅
大众网记者 刘姿岑 青岛报道9月3日下午,青岛城运控股公交集团隧道215路驾驶员王建泳师傅在营运过程中,以一次及时暖心的清障举动
2025-09-08 16:28:00
向这群最可爱的人致敬——记泰安市第一人民医院神经外科医疗团队
5年前,我怀揣着南丁格尔誓言踏入神经外科病区的大门。本以为迎接我的会是每天按部就班的加药、打针、护理……可是,也迎来了“炼狱”级别的挑战
2025-09-08 16:29:00
牛奶变“豆腐脑” 辉山牛奶保质期内变质被指售后不作为
消费日报网讯(记者 卢岳□王紫茜 )保质期内的牛奶凝结成“豆腐脑”、孩子饮用变质牛奶后发热腹泻、家长维权却只换来几袋牛奶赔偿
2025-09-08 16:29:00
一位因糖尿病导致截肢的患者,伤口严重感染不愈合,却在专科护士的精心照护下,见证了伤口从红肿渗液到逐步愈合,让患者重新燃起了对生活的希望
2025-09-08 16:30:00
济南嘉乐生殖医院成功实施高难度宫颈环扎术助力威海患者孕育希望
近日,济南嘉乐生殖医院成功为一例来自威海、患有多种生殖系统疾病的28岁女性患者实施高难度微创手术。该患者曾有1次胎停育史
2025-09-08 16:31:00
鲁网9月8日讯(记者 陈珊珊 通讯员 魏晓月)近日,淄博市淄川区实验幼儿园大班的孩子们开展了“笔墨传承启新程 姓名签到寓深意”主题活动
2025-09-08 16:34:00
女子深陷“刷单返利”骗局 民警紧急劝阻按下“止损键”
鲁网9月8日讯(记者 陈珊珊 通讯员 齐坤翔)近日,淄博市公安局淄川分局昆仑派出所接到反诈中心预警:辖区群众王女士可能遇到了电信诈骗
2025-09-08 16:35:00