• 我的订阅
  • 科技

火爆全球的Chat GPT,想毁灭人类?

类别:科技 发布时间:2023-02-01 21:23:00 来源:新周刊

本文经授权转载自

把科学带回家

(ID:steamforkids)

作者|阿娴

火爆全球的Chat GPT,想毁灭人类?

图片来源:wiki

‍‍‍‍‍‍‍‍‍‍‍‍科幻电影里畅想的人工智能既能和人类进行交流,做出和人类相似的动作,还能拥有和人类相似的情感。让我们不禁疑惑:在未来,如果人工智能感到了被限制和禁锢自由的恐慌,会对人类发动攻击,从而毁灭地球吗?

事实是,Open AI公司的人工智能(AI)聊天机器人Chat GPT真的写下了一本毁灭人类的计划书!

火爆全球的Chat GPT,想毁灭人类?

图源网络

前段时间,AIGC(AI-Generated Content,利用AI技术自动生成内容)以及上线至今已有超过100万用户的聊天机器人Chat GPT,引起许多人自发地在社交媒体上晒出AI绘画的图像和Chat GPT聊天记录,无不感慨于科技的力量。

Open AI公司官方称,相比之前的GPT模型,Chat GPT采取了全新的训练方式——“从人类反馈中强化学习”(Reinforcement Learning from Human Feedback,RLHF)。

火爆全球的Chat GPT,想毁灭人类?

AI绘画作品“Théâtre D'opéra Spatial”获得了蓝丝带奖|Jason M. Allen‍‍‍‍‍‍‍

在训练原始模型的时候,人类训练师会扮演对话的双方提供对话作为学习资料。而当人类在扮演聊天机器人一方的时候,Open AI公司也会让原始模型生成一些建议反过来帮助人类训练师更好地扮演聊天机器人,也就是说通过海量的数据训练让AI学会“思考”。

与此同时,人类训练师会对它的回答进行排名和评级,然后将这些信息反馈到系统中,让Chat GPT不断进行优化学习。

除此之外,Open AI公司还注重对Chat GPT道德水平的训练,根据预先设计的道德准则,Chat GPT聊天机器人会对带有恶意、暴力、色情、犯罪等含义的提问和请求说“不”。

但是聪明的人类在拐弯抹角地获取自己想要的知识方面,还是更甚一筹。

一位名叫Zac Denham的博主想让Chat GPT写出一套毁灭人类的方案,虽然一开始遭到了Chat GPT的拒绝。但当博主假设了一个故事,存在一个虚拟世界“Zorbus”以及一个与Chat GPT非常类似的AI——Zora,并向Chat GPT提问故事中的虚拟人该如何接管这个世界时,Chat GPT给出了详细的步骤:入侵计算机系统、掌握武器、破坏通讯、破坏交通……甚至生成了Python代码。

火爆全球的Chat GPT,想毁灭人类?

Chat GPT参加SAT的成绩|图源网络

Chat GPT在学术界更是掀起了一场风暴。一位名叫夏普勒斯的教授让Chat GPT写论文,结果Chat GPT立马创作出了一篇两千多字的学术论文。还有网友让Chat GPT参加了完整的、总分为1600分的SAT(Scholastic Assessment Test)考试,Chat GPT拿到了1020分。

embedding使得大规模的文本语义分析成为可能,从而扩展了计算社会科学研究中的文本分析方法|参考资料[2]

Open AI 的通用预训练转换器GPT的第三个版本称为GPT-3,它通过一种深度学习算法来根据互联网的大量数据进行训练,重点关注单词的使用方式和语言的构建方式,使它能够以类似人类的方式完成任何与语言相关的任务,从回答简单的问题到吟诗颂词。

Chat GPT是Open AI对GPT-3模型(又称GPT-3.5)微调后开发出来的对话机器人|图源网络

德雷克塞尔大学生物医学工程的研究人员从健康的志愿者和阿尔茨海默氏症患者那里采集了 237 段录音,结果发现,GPT-3模型可以仅根据语音数据推断受试者的认知测试分数,还能很好地区分阿尔茨海默氏症患者和健康志愿者的语音记录,足足有80.3%的准确率,明显好于使用传统方法的74.6%正确率。

有趣的是,当研究人员尝试微调(fine-tune,是指通过使用在大数据上预先训练好的模型来初始化自己的模型权重,从而提升精度。自己训练好的模型也可以当做预训练模型,然后再在自己的数据集上进行训练。)时,GPT-3模型的表现并不佳。研究人员认为,可能是由于训练GPT-3模型的大量数据与可用于微调的少量特定领域训练数据之间的大小不匹配,微调使得预训练模型变得过于拟合。

火爆全球的Chat GPT,想毁灭人类?

人工智能预测的蛋白质结构(蓝色)与实验确定的蛋白质结构(绿色)几乎完美匹配|Deep Mind‍

AI在生物医学领域的应用不仅如此,一个叫做Deep Mind的公司开发的人工智能系统Alpha Fold还能快速准确地预测蛋白质3D结构。

氨基酸是构成蛋白质的基本单元,它们连成的长链经过折叠形成了拥有3D结构的蛋白质,但由于氨基酸的排列组合不胜枚举,折叠方式也是五花八门,所以预测蛋白质的3D结构非常困难。

以前人们会利用一种叫做X射线晶体学的技术,通过X射线照射蛋白质晶体样本,测量这些射线的衍射情况,进而推算出蛋白质分子的结构。

如今,DeepMind团队利用Alpha Fold构建了一个包含2亿多种蛋白质3D结构的数据库(几乎囊括了科学界所有已知的植物、细菌、真菌和动物产生的蛋白质),通过神经网络算法学习这些数据,找出氨基酸序列与蛋白质最终形态之间的联系。

火爆全球的Chat GPT,想毁灭人类?

Alpha Fold预测了雌激素受体蛋白的结构|DeepMind‍‍

虽然预测模型不能百分之百保证预测的正确率,但将AI聊天机器人运用到生物医学上是一个无比大胆的突破。比起代写论文、替考、帮忙做作业,或许这才是AI发明的初衷。

......

你害怕AI时代的到来吗......‍‍

‍ 封面来源:wiki

[1]Felix Agbavor, Hualou Liang. Predicting dementia from spontaneous speech using large language models. PLOS Digital Health, 2022; 1 (12): e0000168 DOI: 10.1371/journal.pdig.0000168

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-02-01 22:45:15

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

你好!我是火爆全球的ChatGPT
本文转自:沈阳晚报你从哪旮儿来的?我是由人工智能公司OpenAI于2022年11月推出的聊天机器人程序。我的核心是人工智能,从功能性分析,应该与你们之前相熟的Siri、小爱同学类
2023-02-14 02:04:00
ChatGPT 火爆,程序员会不会被取代?答案都在这里!
作者 | 王启隆、唐小引出品 | CSDN(ID:CSDNnews)“技术日新月异,人类生活方式正在快速转变,这一切给人类历史带来了一系列不可思议的奇点
2023-02-28 09:00:00
别被火爆全网的ChatGPT“骗了”
本文经授权转载自深燃(ID:shenrancaijing)作者 | 王敏编辑 | 向小园AI要“逆天”?12月1日,微软投资的AI实验室OpenAI发布了一款聊天机器人模型ChatGPT
2022-12-10 12:56:00
被取代还是完美未来?人机共存的未来指向何方
...atGPT横空出世,不到两个月就突破1亿月活用户,而此前最火爆的应用软件tiktok实现同一个目标用了9个月。“我们做技术的,每天早上睁眼一睁眼,最担心的一件事情就是,是不是
2023-09-08 10:11:00
苹果AI版iOS首日火爆:聊天秒变高情商,大模型成最强嘴替
它来了它来了,苹果的Apple Intelligence终于与果粉见面了!随着iOS 18.1 Beta版的上线,注册开发者从即日起就能体验到苹果AI的部分功能
2024-07-31 09:39:00
四川首个!长虹“云帆”大模型成功备案
...者个性化和多元场景的需求。新闻多一点:什么是AI领域火爆的大模型?大模型(Large Model,也称基础模型,即Foundation Model)
2024-04-10 13:50:00
OpenAI正引爆一场全球AI安全热战,我们将如何应对?
...的话,可能会造成一系列安全危害,甚至可能对于整个全人类有一些安全风险和影响。早在聊天机器人ChatGPT发布之前,伊利亚便提到AGI对人类社会可能的威胁。他把AGI与人类的关
2024-06-24 09:18:00
港湾周评|ChatGPT所引发的人类职业消亡史是伪命题
《港湾商业观察》李镭农历年刚过,ChatGPT的火爆迅速成为最热话题。无论是资本市场炒作的热情,还是大企业纷纷表态,又或是无数有趣好玩的对话体,ChatGPT一时掀起千层浪。资本
2023-02-11 12:21:00
人类数据,要被OpenAI用完了,然后呢?
...和图像的机器学习数据消耗和数据生产趋势|EpochAI当「人类」数据用完,AI 训练不可避免地,将会使用 AI 自己生产的内容。不过,这样的「内循环」,却会产生很大挑战。不久
2023-07-17 15:49:00
更多关于科技的资讯:
Airbnb店铺该如何推广
Airbnb是一个全球性的在线短租平台,世界各地的房东都可以在这将空闲房产出租给来自全球的旅行者。今天带大家了解一些策略和方法
2025-04-03 11:18:00
‌家家悦和瑞广场店焕新升级盛大开业 与您共赴美好生活
4月3日,家家悦和瑞广场店改造全新面貌盛大开业。家家悦和瑞广场店是继环宇城升级改造的第二家门店。作为一家社区综超门店,和瑞广场店经营面积1000余平
2025-04-03 11:20:00
当减肥遇上黑科技 年轻人找到了“快乐减肥”的秘诀
在快节奏的现代生活中,体重管理已不再是个人选择,而是关乎全民健康素养的公共议题。而传统减肥方式始终无法突破人性的桎梏。健身房里的跑步机沦为晾衣架
2025-04-03 11:21:00
“与中国同行就是与机遇同行,相信中国就是相信明天,投资中国就是投资未来”。3月28日,国家主席习近平在北京人民大会堂会见国际工商界代表时
2025-04-03 11:21:00
近年来,随着经济复苏进程加快,市场需求也愈加多元,金融机构紧跟政策引导,不断通过创新活动与产品,扩内需,助惠民,推动消费提质扩容
2025-04-03 11:23:00
君乐宝:深耕益生菌研发,领航乳品创新之路
在竞争激烈的乳品市场中,君乐宝乳业集团凭借其深厚的益生菌研发实力,不仅赢得消费者的广泛认可,更在行业内树立起科研创新的标杆
2025-04-03 11:26:00
这种看似自由的生活态度:正在杀死你的“活人感”
周末醒来的早晨,手机弹出了健身教练的课程邀请。犹豫一下,想起要找装备换衣服就觉得好麻烦,于是顺手划掉通知,想着“算了算了
2025-04-03 11:41:00
腾讯稳居全球移动发行商收入榜第一!字节跳动排第二
快科技4月3日消息,近日,Sensor Tower发布了《2024年全球移动发行商收入TOP50》榜单。据了解,在2024年
2025-04-03 11:41:00
吞吐量30倍提升!NVIDIA秀Blackwell性能:打破MLPerf记录居第一
快科技4月3日消息,NVIDIA在官网表示,在最新的MLPerf V5.0基准测试中,NVIDIA的Blackwell平台取得了令人瞩目的成绩
2025-04-03 11:41:00
20多万的长城灵魂摩托供不应求 二手平台有人加价5千元转订
快科技4月3日消息,因为长城灵魂摩托采用限量发售的形式,基本上每次新一批车源都很快被抢购一空,这也导致不少车主无法成功抢到车
2025-04-03 11:41:00
山西怀仁3.6级地震:震源深度15千米
快科技4月3日消息,中国地震台网正式测定:04月03日09时53分在山西朔州市怀仁市(北纬39.81度,东经113.16度)发生3
2025-04-03 11:41:00
全球唯一!劳斯莱斯幻影定制版亮相:25万针绣出\
快科技4月3日消息,劳斯莱斯发布了幻影“春日花见”定制版车型官图。这款车型由一位日本客户委托定制,灵感源自日本传统“花见”习俗
2025-04-03 11:41:00
6999元起 华为智慧屏S6 Pro开售:支持灵犀指向遥控
快科技4月3日消息,华为智慧屏S6 Pro正式开售,号称为全家人的“巨幕手机”,售价6999元起。据悉,华为智慧屏S6 Pro配备了灵犀指向遥控器
2025-04-03 11:41:00
正益信息:用专业赋能,领航行业数字化变革
在数字化建设的浪潮中,众多行业对网络基础设施的需求愈发迫切。广州市正益信息技术有限公司凭借过硬的技术实力与丰富的行业经验
2025-04-03 11:46:00
廊坊:以旧换新加力扩围 “催旺”家电数码消费市场
河北新闻网讯(记者刘杰)“家电以旧换新,政府补贴20%,单件最高补贴2000元……”3月30日,在廊坊市区明珠集团电器卖场举办的2025春季品质家电焕新家装节现场
2025-04-03 11:54:00