• 我的订阅
  • 科技

火爆全球的Chat GPT,想毁灭人类?

类别:科技 发布时间:2023-02-01 21:23:00 来源:新周刊

本文经授权转载自

把科学带回家

(ID:steamforkids)

作者|阿娴

火爆全球的Chat GPT,想毁灭人类?

图片来源:wiki

‍‍‍‍‍‍‍‍‍‍‍‍科幻电影里畅想的人工智能既能和人类进行交流,做出和人类相似的动作,还能拥有和人类相似的情感。让我们不禁疑惑:在未来,如果人工智能感到了被限制和禁锢自由的恐慌,会对人类发动攻击,从而毁灭地球吗?

事实是,Open AI公司的人工智能(AI)聊天机器人Chat GPT真的写下了一本毁灭人类的计划书!

火爆全球的Chat GPT,想毁灭人类?

图源网络

前段时间,AIGC(AI-Generated Content,利用AI技术自动生成内容)以及上线至今已有超过100万用户的聊天机器人Chat GPT,引起许多人自发地在社交媒体上晒出AI绘画的图像和Chat GPT聊天记录,无不感慨于科技的力量。

Open AI公司官方称,相比之前的GPT模型,Chat GPT采取了全新的训练方式——“从人类反馈中强化学习”(Reinforcement Learning from Human Feedback,RLHF)。

火爆全球的Chat GPT,想毁灭人类?

AI绘画作品“Théâtre D'opéra Spatial”获得了蓝丝带奖|Jason M. Allen‍‍‍‍‍‍‍

在训练原始模型的时候,人类训练师会扮演对话的双方提供对话作为学习资料。而当人类在扮演聊天机器人一方的时候,Open AI公司也会让原始模型生成一些建议反过来帮助人类训练师更好地扮演聊天机器人,也就是说通过海量的数据训练让AI学会“思考”。

与此同时,人类训练师会对它的回答进行排名和评级,然后将这些信息反馈到系统中,让Chat GPT不断进行优化学习。

除此之外,Open AI公司还注重对Chat GPT道德水平的训练,根据预先设计的道德准则,Chat GPT聊天机器人会对带有恶意、暴力、色情、犯罪等含义的提问和请求说“不”。

但是聪明的人类在拐弯抹角地获取自己想要的知识方面,还是更甚一筹。

一位名叫Zac Denham的博主想让Chat GPT写出一套毁灭人类的方案,虽然一开始遭到了Chat GPT的拒绝。但当博主假设了一个故事,存在一个虚拟世界“Zorbus”以及一个与Chat GPT非常类似的AI——Zora,并向Chat GPT提问故事中的虚拟人该如何接管这个世界时,Chat GPT给出了详细的步骤:入侵计算机系统、掌握武器、破坏通讯、破坏交通……甚至生成了Python代码。

火爆全球的Chat GPT,想毁灭人类?

Chat GPT参加SAT的成绩|图源网络

Chat GPT在学术界更是掀起了一场风暴。一位名叫夏普勒斯的教授让Chat GPT写论文,结果Chat GPT立马创作出了一篇两千多字的学术论文。还有网友让Chat GPT参加了完整的、总分为1600分的SAT(Scholastic Assessment Test)考试,Chat GPT拿到了1020分。

embedding使得大规模的文本语义分析成为可能,从而扩展了计算社会科学研究中的文本分析方法|参考资料[2]

Open AI 的通用预训练转换器GPT的第三个版本称为GPT-3,它通过一种深度学习算法来根据互联网的大量数据进行训练,重点关注单词的使用方式和语言的构建方式,使它能够以类似人类的方式完成任何与语言相关的任务,从回答简单的问题到吟诗颂词。

Chat GPT是Open AI对GPT-3模型(又称GPT-3.5)微调后开发出来的对话机器人|图源网络

德雷克塞尔大学生物医学工程的研究人员从健康的志愿者和阿尔茨海默氏症患者那里采集了 237 段录音,结果发现,GPT-3模型可以仅根据语音数据推断受试者的认知测试分数,还能很好地区分阿尔茨海默氏症患者和健康志愿者的语音记录,足足有80.3%的准确率,明显好于使用传统方法的74.6%正确率。

有趣的是,当研究人员尝试微调(fine-tune,是指通过使用在大数据上预先训练好的模型来初始化自己的模型权重,从而提升精度。自己训练好的模型也可以当做预训练模型,然后再在自己的数据集上进行训练。)时,GPT-3模型的表现并不佳。研究人员认为,可能是由于训练GPT-3模型的大量数据与可用于微调的少量特定领域训练数据之间的大小不匹配,微调使得预训练模型变得过于拟合。

火爆全球的Chat GPT,想毁灭人类?

人工智能预测的蛋白质结构(蓝色)与实验确定的蛋白质结构(绿色)几乎完美匹配|Deep Mind‍

AI在生物医学领域的应用不仅如此,一个叫做Deep Mind的公司开发的人工智能系统Alpha Fold还能快速准确地预测蛋白质3D结构。

氨基酸是构成蛋白质的基本单元,它们连成的长链经过折叠形成了拥有3D结构的蛋白质,但由于氨基酸的排列组合不胜枚举,折叠方式也是五花八门,所以预测蛋白质的3D结构非常困难。

以前人们会利用一种叫做X射线晶体学的技术,通过X射线照射蛋白质晶体样本,测量这些射线的衍射情况,进而推算出蛋白质分子的结构。

如今,DeepMind团队利用Alpha Fold构建了一个包含2亿多种蛋白质3D结构的数据库(几乎囊括了科学界所有已知的植物、细菌、真菌和动物产生的蛋白质),通过神经网络算法学习这些数据,找出氨基酸序列与蛋白质最终形态之间的联系。

火爆全球的Chat GPT,想毁灭人类?

Alpha Fold预测了雌激素受体蛋白的结构|DeepMind‍‍

虽然预测模型不能百分之百保证预测的正确率,但将AI聊天机器人运用到生物医学上是一个无比大胆的突破。比起代写论文、替考、帮忙做作业,或许这才是AI发明的初衷。

......

你害怕AI时代的到来吗......‍‍

‍ 封面来源:wiki

[1]Felix Agbavor, Hualou Liang. Predicting dementia from spontaneous speech using large language models. PLOS Digital Health, 2022; 1 (12): e0000168 DOI: 10.1371/journal.pdig.0000168

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-02-01 22:45:15

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

你好!我是火爆全球的ChatGPT
本文转自:沈阳晚报你从哪旮儿来的?我是由人工智能公司OpenAI于2022年11月推出的聊天机器人程序。我的核心是人工智能,从功能性分析,应该与你们之前相熟的Siri、小爱同学类
2023-02-14 02:04:00
ChatGPT 火爆,程序员会不会被取代?答案都在这里!
作者 | 王启隆、唐小引出品 | CSDN(ID:CSDNnews)“技术日新月异,人类生活方式正在快速转变,这一切给人类历史带来了一系列不可思议的奇点
2023-02-28 09:00:00
别被火爆全网的ChatGPT“骗了”
...公、故事情节和结局。ChatGPT根据命题撰写小说框架。/ 深燃截图一次没有写完,经过提醒后,还能在...
2022-12-10 12:56
被取代还是完美未来?人机共存的未来指向何方
...atGPT横空出世,不到两个月就突破1亿月活用户,而此前最火爆的应用软件tiktok实现同一个目标用了9个月。“我们做技术的,每天早上睁眼一睁眼,最担心的一件事情就是,是不是
2023-09-08 10:11:00
苹果AI版iOS首日火爆:聊天秒变高情商,大模型成最强嘴替
它来了它来了,苹果的Apple Intelligence终于与果粉见面了!随着iOS 18.1 Beta版的上线,注册开发者从即日起就能体验到苹果AI的部分功能
2024-07-31 09:39:00
四川首个!长虹“云帆”大模型成功备案
...者个性化和多元场景的需求。新闻多一点:什么是AI领域火爆的大模型?大模型(Large Model,也称基础模型,即Foundation Model)
2024-04-10 13:50:00
港湾周评|ChatGPT所引发的人类职业消亡史是伪命题
《港湾商业观察》李镭农历年刚过,ChatGPT的火爆迅速成为最热话题。无论是资本市场炒作的热情,还是大企业纷纷表态,又或是无数有趣好玩的对话体,ChatGPT一时掀起千层浪。资本
2023-02-11 12:21:00
OpenAI正引爆一场全球AI安全热战,我们将如何应对?
...的话,可能会造成一系列安全危害,甚至可能对于整个全人类有一些安全风险和影响。早在聊天机器人ChatGPT发布之前,伊利亚便提到AGI对人类社会可能的威胁。他把AGI与人类的关
2024-06-24 09:18:00
人类数据,要被OpenAI用完了,然后呢?
...和图像的机器学习数据消耗和数据生产趋势|EpochAI当「人类」数据用完,AI 训练不可避免地,将会使用 AI 自己生产的内容。不过,这样的「内循环」,却会产生很大挑战。不久
2023-07-17 15:49:00
更多关于科技的资讯: