• 我的订阅
  • 科技

资深专家也无法准确分辨出 ChatGPT 撰写的科学论文

类别:科技 发布时间:2023-01-15 12:56:00 来源:浅语科技

美国科普杂志《科学美国人》(ScientificAmerican)今天发布文章,表示由ChatGPT撰写的科学论文具备非常高的学术性,以至于资深的科学家也无法分辨。

资深专家也无法准确分辨出 ChatGPT 撰写的科学论文

图源Nature

在12月下旬发表在 bioRxiv服务器上的预印论文中写道,人工智能(AI)聊天机器人已经具备撰写令人信服的虚假研究论文,以至于科学家们在不仔细甄别的情况下也无法分辨。

英国牛津大学研究技术和监管的SandraWachter表示:“我对此非常担心。如果连专家都无法甄别论文的真假,那么就会影响我们的研究基石”。

小课堂:聊天机器人ChatGPT会根据用户提示创建逼真且听起来很智能的文本。它是一种“大型语言模型”,一种基于神经网络的系统,通过消化大量现有的人类生成的文本来学习执行任务。位于加利福尼亚州旧金山的软件公司OpenAI于11月30日发布了该工具,并且可以免费使用。

由伊利诺伊州芝加哥市西北大学的CatherineGao领导的小组使用ChatGPT生成人工研究论文摘要,以测试科学家是否可以发现它们。研究人员要求聊天机器人根据发表在《美国医学会杂志》(JAMA)、《新英格兰医学杂志》(TheNewEnglandJournalofMedicine)、《英国医学杂志》(TheBMJ)、《柳叶刀》(TheLancet)和《自然医学》(NatureMedicine)上的选集撰写50篇医学研究摘要。

然后,他们通过剽窃检测器和AI输出检测器将这些摘要与原始摘要进行比较,并要求一组医学研究人员找出捏造的摘要。

ChatGPT生成的摘要顺利通过了剽窃检查器(plagiarismchecker):原创得分中位数为100%,这表明没有检测到剽窃。

AI输出检测器发现了66%的生成摘要,而人工审核仅正确识别了68%的生成摘要和86%的真实摘要。专家错误地将32%的生成摘要识别为真实摘要,将14%的真实摘要识别为生成的。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-01-15 15:45:21

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...ChatGPT已可写出令人信服的假研究论文摘要,甚至连审稿科学家也无法发现。聊天机器人ChatGPT会根据用户提示创建逼真文本
2023-01-17 02:46:00
nature新规:用chatgpt写论文可以
...明确的是,上述抓包只是偶然,更多时候,生成内容已让科学家们真假难辨。Nature此前一篇文章指出,ChatGPT发布后,伊利诺伊州西北大学一个研究小组就在探究,使用该AI工具
2023-01-30 17:00:00
大模型惨遭国内各领域专家组团“投毒”
...ropic提出的CAI、IBM提出的Self-Align等)。此次则是直接收集资深专家多个维度的反馈,直白来说,就是在以往评价回答的基础之上
2023-07-16 14:23:00
2023 CCF国际AIOps挑战赛决赛成功举办
...、南开大学联合主办;CCF互联网专委会、清华大学计算机科学与技术系、中国建设银行股份有限公司运营数据中心、南开大学软件学院、北京必示科技有限公司承办;华为技术有限公司、国网宁
2023-12-20 13:45:00
双品牌启用全新定位,金沙酒业开启醇柔酱香新世界!
...究、工艺研究、品牌研究、文化研究、市场研究等领域的资深专家充分讨论,并在产业各领域专业力量的大力支持下,金沙酒业决定邀请7名各领域的资深专家成立专家智库,助力金沙酒业的产业战
2024-01-12 09:22:00
爱思唯尔正式发布Scopus AI,助力科研全流程增效提速
...遴选与咨询委员会严格审核与筛选,该委员会由代表主要科学学科的全球知名科学家和图书馆员组成。自2023年8月测试版发布以来,全球数千名科研人员积极参与了ScopusAI的测试工
2024-01-16 17:30:00
风口上的生成式AI:岗位吃香 年薪百万
...(包括技术和非技术人才)。其中,AIGC方向的视觉算法专家最高月薪达到20万元,最高年薪达到约320万元;非技术类岗位也被标出最高150万元的年薪。此次统计仅涵盖公司在招聘公
2023-05-19 14:45:00
...业模式的核心,即封闭的产品生态。紧握生态不放在业内专家看来,苹果的封闭性主要还是商业利益驱动,因为在硬件出货下滑的背景下,服务业务成为苹果的重要依靠,也是苹果生态得以维持、壮
2024-01-11 00:30:00
大连市三院提高研究生指导水平 为医疗卫生事业发展储备人才
...作为评审专家严格把关,神经内科王洪志主任、神经内科资深专家侯宇主任医师、周莹主任医师、张鑫主治医师为专家组成员,会议由神内二科教学秘书薛天宇主持,2021级、2022级5名硕
2024-02-26 15:58:00
更多关于科技的资讯: