• 我的订阅
  • 科技

资深专家也无法准确分辨出 ChatGPT 撰写的科学论文

类别:科技 发布时间:2023-01-15 12:56:00 来源:浅语科技

美国科普杂志《科学美国人》(ScientificAmerican)今天发布文章,表示由ChatGPT撰写的科学论文具备非常高的学术性,以至于资深的科学家也无法分辨。

资深专家也无法准确分辨出 ChatGPT 撰写的科学论文

图源Nature

在12月下旬发表在 bioRxiv服务器上的预印论文中写道,人工智能(AI)聊天机器人已经具备撰写令人信服的虚假研究论文,以至于科学家们在不仔细甄别的情况下也无法分辨。

英国牛津大学研究技术和监管的SandraWachter表示:“我对此非常担心。如果连专家都无法甄别论文的真假,那么就会影响我们的研究基石”。

小课堂:聊天机器人ChatGPT会根据用户提示创建逼真且听起来很智能的文本。它是一种“大型语言模型”,一种基于神经网络的系统,通过消化大量现有的人类生成的文本来学习执行任务。位于加利福尼亚州旧金山的软件公司OpenAI于11月30日发布了该工具,并且可以免费使用。

由伊利诺伊州芝加哥市西北大学的CatherineGao领导的小组使用ChatGPT生成人工研究论文摘要,以测试科学家是否可以发现它们。研究人员要求聊天机器人根据发表在《美国医学会杂志》(JAMA)、《新英格兰医学杂志》(TheNewEnglandJournalofMedicine)、《英国医学杂志》(TheBMJ)、《柳叶刀》(TheLancet)和《自然医学》(NatureMedicine)上的选集撰写50篇医学研究摘要。

然后,他们通过剽窃检测器和AI输出检测器将这些摘要与原始摘要进行比较,并要求一组医学研究人员找出捏造的摘要。

ChatGPT生成的摘要顺利通过了剽窃检查器(plagiarismchecker):原创得分中位数为100%,这表明没有检测到剽窃。

AI输出检测器发现了66%的生成摘要,而人工审核仅正确识别了68%的生成摘要和86%的真实摘要。专家错误地将32%的生成摘要识别为真实摘要,将14%的真实摘要识别为生成的。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-01-15 15:45:21

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

年度生成式AI大会上海站公布最新嘉宾,报名进入最后阶段
...的丰富经验,是国内最早从事AI芯片设计和软硬件应用的资深专家。 9、北电数智智算云负责人 郭文郭文,北电数智智算云负责人,主要负责芯片适配和智算云平台的开发工作;硬件开发、
2024-11-26 09:38:00
信也科技亮相国际AI顶会IJCAI2024,多维展示AI实力
...磊,以及首席科学家王春平在会议期间发表演讲,图像识别资深专家吴圣健的一作论文被会议收录,在现场进行学术报告。作为IJCAI2024竞赛单元之一的第九届“信也科技杯”全球AI算
2024-08-13 16:09:00
...ChatGPT已可写出令人信服的假研究论文摘要,甚至连审稿科学家也无法发现。聊天机器人ChatGPT会根据用户提示创建逼真文本
2023-01-17 02:46:00
视频生成群雄逐鹿,哪些重要问题待解?
...业。 曾任领域知名人工智能(自然语言处理)企业首席科学家,中国科学院副主任(2012),多个国家科技重大专项课题负责人。中国与美国发明专利软件著作权约70+项(约50+项发
2024-11-26 09:38:00
「学术版ChatGPT」登场!Ai2打造科研效率神器OpenScholar,让LLM帮你搞定文献综述
...构发布了最新的OpenScholar系统,使用检索增强的方法帮助科学家进行文献搜索和文献综述工作,而且做到了数据、代码
2024-11-27 13:33:00
孙正聿教授担任首席专家 主持完成第三项国家社会科学基金重大项目
近日,由吉林大学哲学社会科学资深教授孙正聿任首席专家的国家社会科学基金重大项目,“构建当代中国马克思主义哲学学术体系研究”(2019ZDA017)通过专家评审,顺利结项并获评优秀
2024-12-11 18:49:00
检索总结能力超博士后,首个大模型科研智能体PaperQA2开源了
这是 AI 智能体在大部分科学研究中超越人类的第一个案例,或许会彻底改变人类与科学文献互动的方式。最近一段时间,有关 AI 科学家的研究越来越多。大语言模型(LLM)有望帮助科学
2024-09-13 13:33:00
大模型惨遭国内各领域专家组团“投毒”
...ropic提出的CAI、IBM提出的Self-Align等)。此次则是直接收集资深专家多个维度的反馈,直白来说,就是在以往评价回答的基础之上
2023-07-16 14:23:00
科研也完了,AI暴虐170位人类专家!Nature子刊:大模型精准预测研究结果,准确率高达81%
...导读】知识密集型工作也败了!大型语言模型在预测神经科学结果方面超越了人类专家,平均准确率达到81%,而人类专家仅为63%;模型通过整合大量文献数据,展现出了惊人的前瞻性预测能
2024-12-09 09:50:00
更多关于科技的资讯:
苏州制造名品好物生活节举办
1月24日至25日,为期两天的“苏州制造名品好物生活节”在苏州制造名品中心举办。本次活动以“苏州好物 名品上新”为主题
2026-01-25 13:34:00
2026委员通道丨林杰:让工业具身智能 “落地生根”助力“数智强省”建设
大河网讯 2025 年“具身智能”冲上了年度热词,而河南也正以“数智强省”为目标加速迈进“十五五”。1月25日,在河南省政协十三届四次会议“委员通道”上
2026-01-25 08:24:00
浙江日报讯 近日,丽缙高新区,浙江氢阳能源装备有限公司董事长黄刚向记者分享了一则喜讯:该公司首批50余个氢能两轮车固态储氢瓶产品小批量测试顺利完成
2026-01-25 08:48:00
当煤价下行的寒意与成本上涨的压力双重叠加,煤炭行业正经历一场前所未有的经营大考。如何在市场波动中稳住经营基本盘?怎样在双线挤压下答好逆势增长“优”答卷
2026-01-25 07:32:00
零的突破!云知声中标全国首个省级医保大模型项目,打通医保治理现代化“最后一公里”
2026年开年,智慧医保领域迎来里程碑式突破——云知声智能科技股份有限公司成功中标全国首个省级医保垂直大模型项目“江苏省医保垂直大模型及智能体应用项目”
2026-01-24 17:26:00
香港大学中国商业学院2026年专业研究生文凭课程火热招生中
香港大学中国商业学院2026年专业研究生文凭课程全面启动招生!课程涵盖人工智能、创新管理、增长营销、财务金融、人力资源等前沿及核心商管领域
2026-01-24 17:27:00
当哲思遇见科技:华为阅读携手周国平,探讨如何在独处中沉淀自我
在信息纷扰、节奏加速的时代,何处寻得一方宁静,让思想深度扎根?华为阅读联合北京广播电视台纪实科教频道《我们读书吧》第二季
2026-01-24 17:29:00
1月8日,深圳市精锋医疗科技股份有限公司(以下简称精锋医疗)在香港联合交易所主板成功挂牌上市,成为2026年深圳IPO“第一股”
2026-01-24 17:29:00
赋能普惠,引领向善:龙环汇丰实践获公益节大奖肯定
1月22日,第十五届公益节暨2025ESG影响力年会在北京盛大开幕。本届大会以“15年,共益新篇章”为主题,回顾中国公益事业十五年发展历程
2026-01-24 17:30:00
鸿蒙 6“智感握姿” 让交互体验更“近”一步
你是否也经历过这样“手忙脚乱”的时刻:出差途中单手提包,电话突然响起,另一只手紧紧攥着手机,大拇指却怎么也够不到那段长长的滑动接听条
2026-01-24 17:27:00
蚌埠这场脑机接口大会,让“大脑连接未来”照进现实!
大皖新闻讯 1月23日至25日,安徽省脑机接口创新发展大会在蚌埠隆重启幕。为期三天的盛会汇聚了300余位来自高等院校、科研院所
2026-01-24 16:54:00
固体废物综合治理是生态文明建设的重要内容,也是推进美丽中国建设的关键环节。近日,国务院办公厅印发《固体废物综合治理行动计划》
2026-01-24 12:14:00
鲁网1月24日讯国家新一轮消费品以旧换新及数码智能产品购新补贴政策红利持续释放。作为通信行业标杆企业,山东移动济宁分公司积极响应国家号召
2026-01-24 14:00:00
提供16万多方生态空间 设立7亿元资本活水每日商报讯 眼下,“AI漫剧”正加速走入公众视野。作为人工智能时代下中国文化“新三样”(网文
2026-01-24 10:59:00
固安搭建AI智慧招商平台 30秒生成企业选址方案
1月20日,“立业固安”平台工作人员(中)通过平台向企业推荐合适的选址方案。 万 倩摄河北日报讯(记者刘英)30秒,生成一份定制化的选址方案
2026-01-24 08:19:00