• 我的订阅
  • 科技

科技先驱警告:AI系统可能“与人类作对”

类别:科技 发布时间:2024-11-22 06:56:00 来源:浅语科技

图灵奖得主、计算机科学家Yoshua Bengio最新警告称,人工智能(AI)这项新兴技术可能对人类社会产生负面影响,并呼吁进行更多研究以减轻其风险。

Bengio在深度学习方面获得了多个国际奖项,为AI的发展奠定了基础,但他现在对这项技术担忧担忧,并警告说,一些拥有“强大力量”的人甚至可能希望看到人类被机器取代。

他表示:“展望未来,机器在许多方面和我们人类一样聪明,这对社会意味着什么?”他补充说,机器可能很快就会拥有人类的大部分认知能力,通用人工智能(AGI)正在变成触手可及的未来。

Bengio认为,只有少数组织和政府能够负担得起建造强大的AI机器,而且往往系统越大,它们就越智能。“这些机器,你知道的,花费数十亿美元来建造和训练,很少有组织和国家能够做到这一点,这已经是事实了。”

Bengio指出,我们没有办法确保这些系统不会伤害人们或不会反对人们……我们不知道如何做到这一点。

而且这样的前景离我们并不遥远,Bengio认为,几十年内就可能实现,因此,人类需要仔细研究许多针对性的问题,并尽快开始缓解可能的风险。

科技先驱警告:AI系统可能“与人类作对”

需要进行监管和立法

还有观点认为,AI机器目前的训练方式“将导致系统与人类对立”。“此外,有些人可能想要滥用这种权力,有些人可能很高兴看到人类被机器取代,除非我们现在设置正确的护栏。”

在今年6月份,Bengio联合许多科学家发表了一封题为“对先进AI发出警告的权利”的公开信,他们呼吁科学家、政策制定者和公众为减轻这些风险提供指导。

Bengio指出:“政府需要做的第一件事就是制定法规,迫使科技公司在建立这些前沿系统时进行注册,政府应该知道他们的边界在哪里,你知道的,这些系统的细节。”

由于AI发展如此之快,政府必须“发挥自己的创造力”,制定能够适应技术变化的立法。Bengio表示:“为了享受人工智能带来的好处,我们必须进行监管,我们必须安装护栏,我们必须对技术的开发进行监督。”

至于AI系统最大的负面影响,Bengio认为短期内应该是虚假信息、错误信息、AI影响政治和认知的能力。“随着我们的发展,将拥有能够生成更逼真图像、更逼真声音和更逼真视频的机器。”

最难的是,如果我们创造出比我们更聪明、有自己目标的实体,这对人类意味着什么?Bengio回答称:“这些都是非常困难和重要的问题,目前还没有答案。但我们需要更多的研究和预防措施来减轻潜在的风险。”

科技先驱警告:AI系统可能“与人类作对”

责任编辑:振亭

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-11-22 08:45:04

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

陈根:ChatGPT时代下,人形机器人能做“人”吗 ?
...陷入了财政危机。Pepper、ASIMO、Atlas作为人形机器人行业先驱,或告别市场,或找不到合适的应用场景。由于缺乏商业价值
2023-03-03 15:00:00
硅谷热议人工智能“奇点”:机器超越人类的时代是否已到来?
...这一概念的起源可以追溯到上世纪 50 年代的计算机科学先驱约翰·冯·诺伊曼(John von Neumann)。冯·诺伊曼曾经预言
2023-07-12 15:14:00
数字社会的人类与真相
...的《后人类的后真相》。胡泳不愧为中国的“数字化研究先驱”,1997年,他翻译尼葛洛庞帝《数字化生存》,又出版专著《网络为王》,对国人理解数字社会影响深远。之后,他一直在此领域
2023-04-30 12:24:00
“AI将接管世界,但不会征服人类”,图灵奖得主杨立昆最新访谈来了
...容如下:不要对 Yann LeCun 讲一些末日论。作为现代 AI 的先驱和 Meta 首席 AI 科学家,LeCun 是这项技术最有力的捍卫者之一
2024-01-04 11:10:00
读书 | 火爆全球的ChatGPT,你想了解的全在这本书里
...定了后续人工智能发展的基础。之后,无数计算机科学的先驱开始解构人类智能的形成,希望找到赋予机器智能的蛛丝马迹。正如塞巴斯蒂安?特伦所言:“人工智能更像是一门人文学科。其本质在
2023-02-08 18:42:00
徐寿:一个被误认为是\'穿越者\'的科技先驱
穿越一直以来都是一个经久不绝的话题,虽然无法证实,但是在世界各地都有穿越传闻,在物理学界穿越并不是那么匪夷所思的事。爱因斯坦、霍金都支持穿越时空说,爱因斯坦说过:只要达到光速,就
2023-10-26 21:59:00
环太平洋怪兽怎么来的?
...其他星球来繁衍生息。想象一个遥远的星球,一群名为“先驱”的外星人生活在这里。他们使用极高的制毒化学技术和超空间技术,通过制造灵活的生物兵器Kaiju来繁殖。作为一种殖民生物,
2023-12-09 20:27:00
《时代》评出100位AI领域最具影响力人物,李彦宏、李开复、曾毅在列
...作的最坏担忧往往被夸大了。她以放射学为例,人工智能先驱杰弗里·辛顿(Geoffrey Hinton)在2016年预测
2023-09-08 14:21:00
5年后ai所需算力超100万倍
...度学习的因果推理领域的贡献;GeoffreyHinton,人工智能的先驱之一,在2006年提出了深度置信网络(DeepBriefNetwork)模型和反向传播优化算法
2023-01-31 20:34:00
更多关于科技的资讯:
唐山百川机器人共享智能制造工厂通过“共享制造”模式,为京津冀中小企业提供非标零件加工、样机试制等一站式服务。该工厂拥有800台智能设备和千余名技术人员
2025-09-12 09:21:00
聚焦酒博会|共赴“佳酿之约”,酒博会“新朋友”为行业注入新活力
9月9日至13日,以“汇全球佳酿促开放合作”为主题的第十四届中国(贵州)国际酒类博览会在贵阳举行。本届盛会不仅汇聚了众多行业“老朋友”
2025-09-12 06:01:00
潍柴船舶动力新能源产品,大会现场批量签单!
9月9日-10日,作为我国航运领域最具影响力的行业盛会之一,内河航运高质量发展论坛(2025)在重庆举行。来自全国水运行业的200余家单位代表齐聚一堂
2025-09-12 07:05:00
南报网讯(记者张安琪)在2025江苏产学研合作对接大会主题大会上,长城企业战略研究所首次发布2025中国科创未来之星企业研究报告
2025-09-12 07:44:00
□南京日报/紫金山新闻记者黄琳燕清晨,老山脚下的养蜂基地里,蜂农按规范检查蜂群,采集的蜂王浆样本贴着专属溯源码;生产车间内
2025-09-12 07:44:00
2025江苏产学研合作对接大会成果、需求集中发布
9月11日,2025江苏产学研合作对接大会在南京国展中心开幕。在合作洽谈区域,各大企业、高校、科研院所的创新科技产品纷纷亮相
2025-09-12 07:45:00
从科幻到现实,脑机接口领域的“山海经”
工作人员正在对脑机接口产品进行研发、测试。南京日报/紫金山新闻记者 孙中元 摄将小鼠与设备连接,研究人员即可通过查看小鼠的脑电波数据
2025-09-12 07:45:00
□南京日报/紫金山新闻记者田诗雨李香君故居陈列馆创建独立女性品牌仅一个月,相关文创产品销售额同比增长788%;南京中国科举博物馆暑期推出“能喝的墨水”
2025-09-12 07:46:00
河北日报讯(见习记者康晓博)能够自动监控、及时预警的“两个半径”防机械伤害系统,可广泛应用在机场、火车站等人流密集区的智能环保电警摄像单元
2025-09-12 07:54:00
在现代快节奏生活中,久坐办公、高强度运动、年龄增长等因素让越来越多的人开始关注关节与骨骼健康。面对市面上琳琅满目的氨糖钙片产品
2025-09-11 11:41:00
齐鲁晚报·齐鲁壹点 闫丽君 通讯员 陈昌昊三十分钟完成理赔审批,三天内保险金到账,烟台市数据要素服务平台通过区块链和隐私计算技术
2025-09-11 11:58:00
近2000家企业齐聚服贸会 多款新品首发亮相
9月10日至14日,2025年中国国际服务贸易交易会(以下简称“服贸会”)在北京首钢园举行。9月9日,记者提前探访各大场馆筹备情况
2025-09-11 12:46:00
引领行业消费保障新标准,兴趣岛推出“48小时自动退费”服务升级
随着全民终身学习理念的普及,越来越多用户通过在线平台学习唱歌、书法、五禽戏、太极、摄影等课程,以丰富精神生活、提升技能
2025-09-11 14:25:00
数智赋能 · 洞察未来 | 济宁银行举办首届数据创新大赛
鲁网9月11日讯9月9日,济宁银行首届数据创新大赛决赛圆满落幕。本届大赛以“数智赋能·洞察未来”为主题,旨在“以赛促创
2025-09-11 14:40:00
聚焦酒博会|深圳中喜酒业董事长凌春鸣:创始人IP打造品牌成为新趋势
“在葡萄酒市场竞争激烈的今天,传统营销手段已难以突破。创始人IP打造成为发展关键,能赋予品牌独特的人格魅力,与消费者建立深度信任
2025-09-11 14:53:00