• 我的订阅
  • 科技

资深专家也无法准确分辨出 ChatGPT 撰写的科学论文

类别:科技 发布时间:2023-01-15 12:56:00 来源:浅语科技

美国科普杂志《科学美国人》(ScientificAmerican)今天发布文章,表示由ChatGPT撰写的科学论文具备非常高的学术性,以至于资深的科学家也无法分辨。

资深专家也无法准确分辨出 ChatGPT 撰写的科学论文

图源Nature

在12月下旬发表在 bioRxiv服务器上的预印论文中写道,人工智能(AI)聊天机器人已经具备撰写令人信服的虚假研究论文,以至于科学家们在不仔细甄别的情况下也无法分辨。

英国牛津大学研究技术和监管的SandraWachter表示:“我对此非常担心。如果连专家都无法甄别论文的真假,那么就会影响我们的研究基石”。

小课堂:聊天机器人ChatGPT会根据用户提示创建逼真且听起来很智能的文本。它是一种“大型语言模型”,一种基于神经网络的系统,通过消化大量现有的人类生成的文本来学习执行任务。位于加利福尼亚州旧金山的软件公司OpenAI于11月30日发布了该工具,并且可以免费使用。

由伊利诺伊州芝加哥市西北大学的CatherineGao领导的小组使用ChatGPT生成人工研究论文摘要,以测试科学家是否可以发现它们。研究人员要求聊天机器人根据发表在《美国医学会杂志》(JAMA)、《新英格兰医学杂志》(TheNewEnglandJournalofMedicine)、《英国医学杂志》(TheBMJ)、《柳叶刀》(TheLancet)和《自然医学》(NatureMedicine)上的选集撰写50篇医学研究摘要。

然后,他们通过剽窃检测器和AI输出检测器将这些摘要与原始摘要进行比较,并要求一组医学研究人员找出捏造的摘要。

ChatGPT生成的摘要顺利通过了剽窃检查器(plagiarismchecker):原创得分中位数为100%,这表明没有检测到剽窃。

AI输出检测器发现了66%的生成摘要,而人工审核仅正确识别了68%的生成摘要和86%的真实摘要。专家错误地将32%的生成摘要识别为真实摘要,将14%的真实摘要识别为生成的。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-01-15 15:45:21

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

年度生成式AI大会上海站公布最新嘉宾,报名进入最后阶段
...的丰富经验,是国内最早从事AI芯片设计和软硬件应用的资深专家。 9、北电数智智算云负责人 郭文郭文,北电数智智算云负责人,主要负责芯片适配和智算云平台的开发工作;硬件开发、
2024-11-26 09:38:00
信也科技亮相国际AI顶会IJCAI2024,多维展示AI实力
...磊,以及首席科学家王春平在会议期间发表演讲,图像识别资深专家吴圣健的一作论文被会议收录,在现场进行学术报告。作为IJCAI2024竞赛单元之一的第九届“信也科技杯”全球AI算
2024-08-13 16:09:00
...ChatGPT已可写出令人信服的假研究论文摘要,甚至连审稿科学家也无法发现。聊天机器人ChatGPT会根据用户提示创建逼真文本
2023-01-17 02:46:00
视频生成群雄逐鹿,哪些重要问题待解?
...业。 曾任领域知名人工智能(自然语言处理)企业首席科学家,中国科学院副主任(2012),多个国家科技重大专项课题负责人。中国与美国发明专利软件著作权约70+项(约50+项发
2024-11-26 09:38:00
「学术版ChatGPT」登场!Ai2打造科研效率神器OpenScholar,让LLM帮你搞定文献综述
...构发布了最新的OpenScholar系统,使用检索增强的方法帮助科学家进行文献搜索和文献综述工作,而且做到了数据、代码
2024-11-27 13:33:00
孙正聿教授担任首席专家 主持完成第三项国家社会科学基金重大项目
近日,由吉林大学哲学社会科学资深教授孙正聿任首席专家的国家社会科学基金重大项目,“构建当代中国马克思主义哲学学术体系研究”(2019ZDA017)通过专家评审,顺利结项并获评优秀
2024-12-11 18:49:00
检索总结能力超博士后,首个大模型科研智能体PaperQA2开源了
这是 AI 智能体在大部分科学研究中超越人类的第一个案例,或许会彻底改变人类与科学文献互动的方式。最近一段时间,有关 AI 科学家的研究越来越多。大语言模型(LLM)有望帮助科学
2024-09-13 13:33:00
大模型惨遭国内各领域专家组团“投毒”
...ropic提出的CAI、IBM提出的Self-Align等)。此次则是直接收集资深专家多个维度的反馈,直白来说,就是在以往评价回答的基础之上
2023-07-16 14:23:00
科研也完了,AI暴虐170位人类专家!Nature子刊:大模型精准预测研究结果,准确率高达81%
...导读】知识密集型工作也败了!大型语言模型在预测神经科学结果方面超越了人类专家,平均准确率达到81%,而人类专家仅为63%;模型通过整合大量文献数据,展现出了惊人的前瞻性预测能
2024-12-09 09:50:00
更多关于科技的资讯:
谨以杭州之名呼唤德国
2月26日,德国总理默茨专机抵达杭州。在杭州萧山机场,迎接他的是一辆黑色红旗轿车。随行的约30家企业高管,覆盖了拜耳、大众
2026-02-27 18:02:00
中国消费者报北京讯(记者孙蔚)2月26日,爱奇艺发布的最新财报显示,2025年总收入272.9亿元,Non-GAAP(非美国通用会计准则)运营利润6
2026-02-27 17:06:00
中国消费者报报道(记者张文章)在福建一些企业的研发实验室与生产车间里,常能看到一些特殊的身影,他们是福建省知识产权保护中心(以下简称福建保护中心)派出的首席质量服务官和科技特派员服务团队
2026-02-27 17:06:00
中国消费者报福州讯(记者张文章)2月26日,记者从福建省漳州市市场监管局获悉,国家药监局药品评价中心、国家药品不良反应监测中心近日印发《关于表扬2025年全国药械妆不良反应监测评价工作表现突出单位的通报》
2026-02-27 17:06:00
中国消费者报南昌讯(严有生 记者朱海)2月27日,记者从江西省市场监管局获悉,市场监管总局近日正式批准在江西省上饶市筹建国家高精密光学元件产品质量检验检测中心
2026-02-27 17:06:00
中国消费者报福州讯(记者张文章)2月26日,福建省商务厅、省市场监管局等5部门联合印发《福建省2026年家电以旧换新、数码和智能产品购新补贴实施细则》(以下简称《细则》)
2026-02-27 17:06:00
京东与DHL集团签署MOU 助力德国品牌深耕中欧市场
2月26日,京东集团与DHL集团(敦豪集团)宣布签署MOU(合作备忘录),双方将围绕创新物流与电商服务展开深度合作,共同打造无缝衔接的一体化解决方案
2026-02-27 14:21:00
药品零售行业具身智能机器人落地北京海淀
中国消费者报北京讯(记者董芳忠)马年春晚上,机器人Galbot从盘核桃、捡玻璃碎片、货架取物,到生活场景的叠衣服、串烤肠
2026-02-27 14:36:00
当数字化转型成为银行业共识,宁波银行早已走在前列。而这一切,离不开董事长陆华裕对科技赋能的前瞻性布局。从“五管二宝”到“波波知了”
2026-02-27 14:37:00
深耕铝业匠心筑品,张家港大洋铝业双向赋能B端与C端市场
在铝型材行业高质量发展的浪潮中,张家港大洋铝业有限公司以深耕行业的匠心、全链条的服务实力,立足江苏产业基地,构建起覆盖B端工业需求与C端消费场景的全方位铝型材解决方案
2026-02-27 14:42:00
开局即冲刺,黄桥企业“马力”全开
江南时报讯 一年之计在于春,苏州市相城区黄桥街道处处涌动着蓬勃发展的热潮,辖区多家企业抢抓新春开局黄金期,平稳有序复工复产
2026-02-27 15:17:00
近日,中国移动江苏公司泰州分公司(以下简称“泰州移动”)依托智能反诈预警系统,成功处置一起针对本地企业固话的大规模盗打事件
2026-02-27 15:18:00
数智赋能档案治理,亲笔签助力富民银行打造新一代综合档案管理系统
当前,数字金融发展驶入快车道。档案管理作为贯穿银行业务始终的重要工作,其数字化进程直接关乎业务运转流畅度、风险防控精准度以及合规经营可靠性
2026-02-27 15:46:00
全新视界 跃见未来 :蔡司光学品牌馆2026上海展首秀 重磅新品引期待
第24届中国(上海)国际眼镜业展览会将于3月2日盛大开幕。恰逢成立180周年,蔡司光学品牌馆以“全新视界 跃见未来”为主题正式首秀
2026-02-27 16:24:00
开放、协同、共赢:能环宝NiOS™智慧系统构筑智慧能源新生态
在能源数字化转型的浪潮中,单一的技术或解决方案已难以满足光伏电站全生命周期管理的复杂需求。能环宝NiOS™智慧能源管理系统
2026-02-27 16:28:00