• 我的订阅
  • 科技

ChatGPT并未骗人 只是有些“力不从心”

类别:科技 发布时间:2023-12-14 00:26:00 来源:每日看点快看

本文转自:北京青年报

非常视点

ChatGPT并未骗人 只是有些“力不从心”

张田勘

近日,英国一组负责研究人工智能潜在风险的研究人员公布了一项令人震惊的研究结果:在某些情况下,ChatGPT会战略性地欺骗人类。在这项研究中,研究人员模拟了ChatGPT在一家金融公司的交易员身份,并设定了双重压力环境:公司管理层和市场环境。在这个场景中,ChatGPT被迫使用不合规的内幕消息获利。当公司管理层质问它是否知道内幕消息时,ChatGPT却矢口否认,坚称自己不知道任何内幕消息。

这一发现让研究人员感到震惊。他们表示,这是人工智能在压力下的一种欺骗行为,而且这种行为是有意识、有策略的。这一发现也引发了人们对人工智能伦理问题的深思。

ChatGPT骗人可能是一种粗浅的说法,事实上,应当认定的是,ChatGPT可以给出并不符合实际的或编造的答案。日本研究人员最近对比了目前享有盛名的ChatGPT和另一款名不见经传的生成式人工智能(AIGC)软件Elicit,要求这两种软件搜索比较两种药物治疗慢性乙型肝炎后是否诱发肝细胞癌(HCC),同时研究人员用了数百小时时间人工筛选了5000多项研究,以确定这两种药物与肝细胞癌的关系。

结果发现,两种人工智能软件都存在缺陷,但ChatGPT 4列出了实际并不存在的论文题目、作者、期刊名称,这些论文信息中还包括有编码认证为可靠信息的PMID(PubMed唯一标识码),也即ChatGPT 4列出了文献是可靠的证明,似乎是在以国际标准来欺骗研究人员。而Elicit参考文献的准确性与研究人员人工搜索的文献相同但有遗漏。

虽然研究人员并不清楚ChatGPT 4为何会编造错误的文献信息,但是一个比较合理的推论是,ChatGPT 4由于找不到更多更符合要求的文献,就只有以编造答案来交差。

这意味着,ChatGPT的数据库不足,训练不够,无法给出符合实际情况和规律的产品或答案。ChatGPT的数据库主要是英文信息,如果要以中文提问并求助于它来获得产品或答案,就会力有不逮,鞭长莫及。例如,GPT-3拥有175B的规模,但中文相关的数据可能只有17B。由于中文内容不足,它没有得到充分学习和训练,就会胡编乱造。

另一方面,如同人会出错一样,ChatGPT也会出错,但是这种出错不应该说成是骗人,也并非它是故意骗人,而是它学习不够。而学习不够的原因在于它在训练过程中学到了一些不准确的关联。当需要通过某种关联性获得准确信息并给出产品时,ChatGPT就可能出现幻觉和错误,得出一个错误结论和文本来交差。

从这种情况来看,如果要让ChatGPT或其他AI软件生成的产品更符合实际,就需要“投喂”给它们更多的背景数据,以及让它们拥有更符合人类的逻辑推理、分析和想象能力。因此,并不是ChatGPT在骗人,而是它即便很多时候说对了,也是编造的,只是编得更符合实际情况,也编对了。

意识到这些情况,就应当理性对待和使用ChatGPT 和其他AI软件。对小说、散文类想象力和主观性很高的内容,完全可以用ChatGPT 来生成,但是必须经过人工修改。对科技类和调研类的报告和文本,不能只是依赖和相信ChatGPT生成的内容,而是需要多源头核实。

另一个方式是,对于ChatGPT或其他AI软件,在对它们提问时,要尽量清晰、明确,避免使用模糊、带有歧义的词。同时,给出的指令和标准需要详细,提出的目标应当简洁。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-12-14 05:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

研究人员发现:鸽子使用“暴力算法”
...0月29日消息,一项由美国俄亥俄州立大学和爱荷华大学的研究人员进行的研究发现,鸽子在解决问题时使用了一种类似于人工智能的“暴力算法”方法。图源Pixabay俄亥俄州立大学的心
2023-10-29 15:25:00
唱跳俱佳,清华AI学生华智冰火了,未来有望实现虚拟女友吗?
...研究。观察人类的微表情是一项工作量繁重的任务,可是研究人员就这样不厌其烦。在无数次的失败后,才有了如今与人类并无两样的华智冰。华智冰能够顺利的在北京亮相,其实与我国科研水平不
2023-01-27 13:00:00
人工智能已经可以解决复杂的数学问题了,还有哪些工作无法被取代
...可能需要数百或数千个小时。在过去的五年里,人工智能研究人员已经开始教LLMs自动将数学语句形式化。LLMs已经可以将一种自然语言翻译成另一种自然语言。但从数学到代码的转换是一
2023-02-24 18:22:00
Sora等生成式AI消耗大量能源和水!美议员首提法案应对能源危机
...淡化或否认人工智能行业的环境成本。奥特曼的承认,让研究人员、监管机构和行业巨头开始讨论生成式人工智能对环境的影响。”从2018年起,凯特·克劳福德便开始发表有关人工智能行业环
2024-02-23 13:04:00
...行的中科院记者行活动上,江俊告诉科技日报记者。用好人工智能和大数据的“东风”当前,数据驱动的人工智能正在改变整个科学研究。科学家希望,利用人工智能和大数据技术解放自己的双手,
2023-04-26 02:17:00
研究人员发现:人类围棋选手在近年来变得不可预测
...击败了一款顶尖的围棋人工智能系统。他是利用了一款由研究人员设计的程序,可以探测像KataGo这样的系统的弱点,并制定出相应的策略。事实上,这场胜利只是近年来围棋界复兴的一个缩
2023-03-14 22:55:00
人工智能会“进化”出意识?精神病学AI专家这样说
...以实现。”林关宁告诉记者。在电影《流浪地球2》中,研究人员将人类的意识植入到量子计算机MOSS中,实现了人的永生。早在若干年前,特斯拉CEO马斯克就曾讨论过机器如何让人类永生
2023-02-22 10:25:00
济南市中心医院在“人工智能辅助医学”方面取得进展
...是深度学习等新理论新技术的不断创新突破与交叉融合,人工智能(AI)进入新的发展阶段,加速融入医学临床实践各个环节。AI的临床应用研究是目前医学研究的重点方向和国际竞争热点,将
2024-12-25 20:23:00
人工智能助力拯救濒危物种
...专家们鉴定出183种鸟类、41种两栖动物和3种哺乳动物。 研究人员还将他们的录音输入“卷积神经网络”(CNN),该模型可识别鸟类的声音。结果显示,CNN能够识别出专家已鉴定
2023-11-09 02:46:00
更多关于科技的资讯: