• 我的订阅
  • 科技

前OpenAI安全研究员警告:AI毁灭人类的可能性为20%

类别:科技 发布时间:2023-05-06 19:00:00 来源:手机中国

【CNMO新闻】此前,马斯克曾大胆放话称,AI能导致人类文明毁灭。此言乍一听确实有一些夸张成分,但是其隐含的警示意味仍然应该引起重视。近日,CNMO了解到,曾担任OpenAI安全研究员保罗·克里斯蒂亚诺发出警告,提醒人们人工智能可能最终会导致人类终结。

前OpenAI安全研究员警告:AI毁灭人类的可能性为20%

人工智能

保罗·克里斯蒂亚诺在一个播客节目中说道:“我认为人工智能取代人类的可能性大约为10-20%,我们需要非常严肃地对待这个问题。”他认为,AI消灭人类的最可能方式是将日常生活中部署的所有AI联合起来,而不是突然消灭人类。人类的终结不是一场突如其来的事件,而是人工智能逐渐地崛起,其通过AI控制自动驾驶汽车、无人机等科技领域逐渐毁灭人类。不要觉得这是危言耸听,当AI超越人类智商阈值时,这一切皆有可能。

前OpenAI安全研究员警告:AI毁灭人类的可能性为20%

人工智能

此外,CNMO了解到,保罗·克里斯蒂亚诺的新非营利组织Alignment Research Center致力于人工智能对齐的概念,即让机器的动机与人类的动机保持一致。该概念早在2018年就被广泛定义,并被认为对于防止人工智能毁灭人类的可能性至关重要。虽然OpenAI声称,旨在使人工智能与人类价值观保持一致,并遵循人类意图,但这仍需要进行更多的研究和开发,以确保安全地开发人工智能。

值得一提的是,此前,被称为人工智能先驱、人工智能教父的杰弗里·辛顿在接受采访时表示,AI对人类的威胁可能要比天灾造成的影响更为广泛。返回搜狐,查看更多

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-05-06 21:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

中科院自动化所曾毅:未来AI智力水平或全面超越人类,能否共生最大的瓶颈在人
...家》栏目第六期,对话中国科学院自动化研究所研究员、人工智能伦理与治理中心主任曾毅。嘉宾介绍:曾毅,工学博士,中国科学院自动化研究所研究员、类脑智能实验室副主任、人工智能伦理与
2023-06-19 18:00:00
尼山论什么|AI儒家化,有可能实现吗?
...宗智 曲阜报道7月10日下午,第十届尼山世界文明论坛“人工智能与人类文明”分议题对话会顺利举行。能否让AI服从某种指导性原则?如何建立相应的伦理框架、文化政策?怎样确保人工智
2024-07-11 11:29:00
《时代》评出100位AI领域最具影响力人物,李彦宏、李开复、曾毅在列
...志的封面反映了塑造社会的力量;今年也是如此。生成式人工智能(Generative AI)无疑是今年最受关注的重塑社会的力量。“我现在看到的创新水平比我一生中见过的要强几个数量
2023-09-08 14:21:00
...涵;各种便携式智能装备拓宽了劳动者的外延,机器人和人工智能参与劳动,跻身到劳动者行列,增加了劳动力的类别和数量;人工智能参与生产的标准化、精准化,以及人更多地向着脑力劳动发展
2023-02-13 04:16:00
...在来袭。在3月26日博鳌亚洲论坛年会中,多场分论坛针对人工智能展开热烈讨论。不少场次前已排起长队“限流”,场内更是人流爆满。人工智能分论坛门口排起长队今年AI领域有哪些新变化
2025-03-28 10:24:00
一些人在ChatGPT中瞥见了AGI 另一些人:啥也不是
AGI(通用人工智能)代表着具有人类认知能力的人工智能,而不是狭义上的人工智能。有人认为 GPT-4 已经达到了AGI 的水平
2023-05-11 14:32:00
智能机器化学家“小来”,来了!
...集源代码,打造出世界上最先进的智能机器化学家,通过人工智能驱动机器人实验,解决了复杂优化难题,在两个月内就取得了实验成功,获得了预期效果——1.建立化学研究智能新范式数千年来
2023-12-31 08:07:00
高通为高校AR/VR研究生提供4万美元创新奖学金+研究员导师
...的三维人体运动和行为的交互感知学习)》。高通指出,人工智能驱动的AR/VR设备可以通过理解周围环境和人类行为,并正在改变医疗、教育和娱乐等行业。然而,目前的技术主要局限于第三
2023-07-04 10:00:00
联合国高级别人工智能咨询机构成立 曾毅张凌寒入选专家组成员
...联合国秘书长安东尼奥·古特雷斯正式宣布联合国高级别人工智能咨询机构(High Level Advisory Body on AI)成立
2023-10-27 16:34:00
更多关于科技的资讯:
厦门网讯 (厦门日报记者 薛尧)无人机、运动相机迎来降价潮!近日有市民发现相关热门产品价格跳水,记者走访了解到,我市多家大疆授权体验店中
2025-10-16 08:38:00
助力视弱群体畅行 公交视弱辅助系统“喊”您上车
视弱人士庄先生在公交视弱辅助系统的帮助下乘车。厦门网讯(文/图 厦门日报记者 林钦圣 通讯员 江安娜) “我们先找到并打开公交App
2025-10-16 08:38:00
10月15日晚,福州金融街商务区“亮灯”,迎接2025世界航海装备大会。
2025-10-16 08:59:00
近日,中石化石油工程设计有限公司自主研发的“管道环焊缝射线检测缺陷智能辅助评判系统”,顺利完成准确率测试。本次测试中,该系统总计检查了210张油气长输管道环焊缝射线检测底片
2025-10-16 09:03:00
当“遇到问题先到社交媒体上搜索”成为一代青少年的本能反应,当班级群、兴趣圈与直播平台深度嵌入他们的日常生活,社交网络正构成这代“数字原住民”成长的基本环境
2025-10-16 09:16:00
在人工智能技术飞速发展的今天,大模型以其强大的信息处理与泛化能力,正深刻改变医学领域的科研与临床实践。与此同时,以聚类分析
2025-10-16 09:57:00
人去世了朋友圈会消失吗?微信:对长时间不使用账号已不再回收
10月15日,“微信派”微信公众号发布最新一期播客,聊到了“真的很多人不发朋友圈了吗?”“人去世后,朋友圈会被回收吗?”等话题
2025-10-16 10:13:00
日日佳携手企知道,共同推动智能显示技术科技创新
近日,深圳日日佳显示技术有限公司(以下简称“日日佳”或“公司”)正式签约入驻企知道科创空间。作为专注于TFT-LCD模组制造的细分领域的国家高新技术企业和深圳市专精特新中小企业
2025-10-16 10:18:00
汽车测评 全球协同 | 解码C-NCAP——护航公众出行安全
当汽车从单纯的“交通工具”升级为承载多元需求的“出行载体”,是什么力量在守护这场变革的安全底线?2025世界NCAP大会即将在中国上海启幕
2025-10-16 10:50:00
花田玑密入选“2025山东省优秀兴农电商企业案例”
2025年10月16日,由山东省商务厅主办的“数商兴农庆丰收暨九九网购节”电商促消费活动在青岛莱西市人民广场隆重启动。花田玑密品牌创始人
2025-10-16 10:53:00
香港金管局公布生成式AI沙盒名单,蚂蚁数科入选技术合作伙伴
10月15日,香港金融管理局(HKMA)与香港数码港管理有限公司联合公布第二期生成式AI沙盒参与者名单。蚂蚁银行、中银香港
2025-10-16 11:24:00
卢伟冰官宣REDMI K90系列明天见!不排斥和小米直接竞争
10月16日,小米集团合伙人、总裁卢伟冰微博正式官宣,REDMI K90系列明天见。他发文透露,本次发布会是小米手机业务在旗舰新品发布季的第二篇章
2025-10-16 12:00:00
从2019年首届举办至今,VR/AR产业博览会已成为虚拟现实行业“不可或缺的重要盛事”,不仅是展示最新产品与技术的窗口
2025-10-16 12:07:00
在全球人工智能技术迅猛发展并向各领域深度渗透的背景下,高校思想政治教育作为培养时代新人的关键环节,正面临数字化转型的机遇与挑战
2025-10-16 13:40:00
客户留存率彰显实力:Coosea酷赛智能以定制化服务筑牢长期合作基石
在全球智能硬件竞争白热化的当下,Coosea酷赛智能用一组硬核数据诠释了“长期合作伙伴”的深刻内涵:酷赛智能与本土品牌客户平均合作时长超5年
2025-10-16 13:43:00