• 我的订阅
  • 科技

科技先驱警告:AI系统可能“与人类作对”

类别:科技 发布时间:2024-11-22 06:56:00 来源:浅语科技

图灵奖得主、计算机科学家Yoshua Bengio最新警告称,人工智能(AI)这项新兴技术可能对人类社会产生负面影响,并呼吁进行更多研究以减轻其风险。

Bengio在深度学习方面获得了多个国际奖项,为AI的发展奠定了基础,但他现在对这项技术担忧担忧,并警告说,一些拥有“强大力量”的人甚至可能希望看到人类被机器取代。

他表示:“展望未来,机器在许多方面和我们人类一样聪明,这对社会意味着什么?”他补充说,机器可能很快就会拥有人类的大部分认知能力,通用人工智能(AGI)正在变成触手可及的未来。

Bengio认为,只有少数组织和政府能够负担得起建造强大的AI机器,而且往往系统越大,它们就越智能。“这些机器,你知道的,花费数十亿美元来建造和训练,很少有组织和国家能够做到这一点,这已经是事实了。”

Bengio指出,我们没有办法确保这些系统不会伤害人们或不会反对人们……我们不知道如何做到这一点。

而且这样的前景离我们并不遥远,Bengio认为,几十年内就可能实现,因此,人类需要仔细研究许多针对性的问题,并尽快开始缓解可能的风险。

科技先驱警告:AI系统可能“与人类作对”

需要进行监管和立法

还有观点认为,AI机器目前的训练方式“将导致系统与人类对立”。“此外,有些人可能想要滥用这种权力,有些人可能很高兴看到人类被机器取代,除非我们现在设置正确的护栏。”

在今年6月份,Bengio联合许多科学家发表了一封题为“对先进AI发出警告的权利”的公开信,他们呼吁科学家、政策制定者和公众为减轻这些风险提供指导。

Bengio指出:“政府需要做的第一件事就是制定法规,迫使科技公司在建立这些前沿系统时进行注册,政府应该知道他们的边界在哪里,你知道的,这些系统的细节。”

由于AI发展如此之快,政府必须“发挥自己的创造力”,制定能够适应技术变化的立法。Bengio表示:“为了享受人工智能带来的好处,我们必须进行监管,我们必须安装护栏,我们必须对技术的开发进行监督。”

至于AI系统最大的负面影响,Bengio认为短期内应该是虚假信息、错误信息、AI影响政治和认知的能力。“随着我们的发展,将拥有能够生成更逼真图像、更逼真声音和更逼真视频的机器。”

最难的是,如果我们创造出比我们更聪明、有自己目标的实体,这对人类意味着什么?Bengio回答称:“这些都是非常困难和重要的问题,目前还没有答案。但我们需要更多的研究和预防措施来减轻潜在的风险。”

科技先驱警告:AI系统可能“与人类作对”

责任编辑:振亭

文章内容举报

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-11-22 08:45:04

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

陈根:ChatGPT时代下,人形机器人能做“人”吗 ?
...陷入了财政危机。Pepper、ASIMO、Atlas作为人形机器人行业先驱,或告别市场,或找不到合适的应用场景。由于缺乏商业价值
2023-03-03 15:00:00
硅谷热议人工智能“奇点”:机器超越人类的时代是否已到来?
...这一概念的起源可以追溯到上世纪 50 年代的计算机科学先驱约翰·冯·诺伊曼(John von Neumann)。冯·诺伊曼曾经预言
2023-07-12 15:14:00
数字社会的人类与真相
...的《后人类的后真相》。胡泳不愧为中国的“数字化研究先驱”,1997年,他翻译尼葛洛庞帝《数字化生存》,又出版专著《网络为王》,对国人理解数字社会影响深远。之后,他一直在此领域
2023-04-30 12:24:00
“AI将接管世界,但不会征服人类”,图灵奖得主杨立昆最新访谈来了
...容如下:不要对 Yann LeCun 讲一些末日论。作为现代 AI 的先驱和 Meta 首席 AI 科学家,LeCun 是这项技术最有力的捍卫者之一
2024-01-04 11:10:00
读书 | 火爆全球的ChatGPT,你想了解的全在这本书里
...定了后续人工智能发展的基础。之后,无数计算机科学的先驱开始解构人类智能的形成,希望找到赋予机器智能的蛛丝马迹。正如塞巴斯蒂安?特伦所言:“人工智能更像是一门人文学科。其本质在
2023-02-08 18:42:00
徐寿:一个被误认为是\'穿越者\'的科技先驱
穿越一直以来都是一个经久不绝的话题,虽然无法证实,但是在世界各地都有穿越传闻,在物理学界穿越并不是那么匪夷所思的事。爱因斯坦、霍金都支持穿越时空说,爱因斯坦说过:只要达到光速,就
2023-10-26 21:59:00
环太平洋怪兽怎么来的?
...其他星球来繁衍生息。想象一个遥远的星球,一群名为“先驱”的外星人生活在这里。他们使用极高的制毒化学技术和超空间技术,通过制造灵活的生物兵器Kaiju来繁殖。作为一种殖民生物,
2023-12-09 20:27:00
《时代》评出100位AI领域最具影响力人物,李彦宏、李开复、曾毅在列
...作的最坏担忧往往被夸大了。她以放射学为例,人工智能先驱杰弗里·辛顿(Geoffrey Hinton)在2016年预测
2023-09-08 14:21:00
5年后ai所需算力超100万倍
...度学习的因果推理领域的贡献;GeoffreyHinton,人工智能的先驱之一,在2006年提出了深度置信网络(DeepBriefNetwork)模型和反向传播优化算法
2023-01-31 20:34:00
更多关于科技的资讯:
王座赛事杭州站圆满落幕 台球产业生态链迎来升级热潮
9月6日,为期四天的王座赛事第一站在杭州希尔顿酒店圆满落幕,这项集竞技、产品、文化于一体的台球盛宴,不仅为观众呈现了精彩赛事
2025-09-08 13:37:00
强生眼力健与光正眼科举行合作集团揭牌仪式,共创“价值医疗”新范式
重塑白内障患者诊疗流程,推动精准屈光诊疗方案惠及患者【2025年9月5日,杭州】在中华医学会第二十九次眼科学术大会(CCOS2025)这一行业盛会上
2025-09-08 13:39:00
强生眼力健携手何氏眼科,共筑中国眼健康创新生态
以“医教研”一体化,加速全球前沿技术转化【2025年9月6日,杭州】为加速共筑中国眼健康创新生态,强生旗下的眼健康业务强生眼力健
2025-09-08 13:39:00
以“数字中台+智贸生态”赋能广州万亿级市场 数字化转型升级
2025年广州(秋季)白云里国际美妆节白云电商高峰论坛于9月5日在白云里国际美妆中心成功召开。本次论坛汇聚了广州市白云区电子商务行业协会会长朱东炫
2025-09-08 13:39:00
印象草原:一场关于“自我设计”的时尚革命蓄势登场
当服装跳出市场同质化“单品”的定义,成为承载个性的专属“战袍”,一场关于“自我设计”的时尚革命正蓄势登场。2025年9月9日
2025-09-08 13:39:00
强生眼力健与香港希玛眼科携手共建创新技术合作集团,引领屈光白内障及老视诊疗新篇章
【2025年9月6日,杭州】 近日,在中华医学会第二十九次眼科学术大会(CCOS2025)期间,强生眼力健与香港希玛医疗集团(以下简称“希玛医疗”
2025-09-08 13:40:00
强生眼力健携手爱尔眼科,共筑精准屈光诊疗全国标准化体系
以技术驱动,定义高品质眼科服务规模化落地新范本【2025年9月5日,杭州】在中华医学会第二十九次眼科学术大会(CCOS2025)期间
2025-09-08 13:41:00
首个电商蟹卡兑换系统上线:五年投入两千万元研发 无法履约最高赔10万元
蟹卡标注着长期有效,兑换时商家却玩起了失联。每逢中秋节前,不少消费者因蟹卡无法兑换而踩雷。今年大闸蟹消费季,京东超市宣布为消费者提供百分百可兑换服务
2025-09-08 13:48:00
小米回应车主提车发现是测试车:静电贴痕迹,湿毛巾就能擦掉
近日,有小米YU7车主反映,提车后发现前挡风或后挡风玻璃上存在“测试车”静电贴残留痕迹。9月7日,小米集团公关部总经理王化在微博回应称
2025-09-08 11:54:00
贵州大数据集团中标国内首个“云胶片”项目
在贵州,一朵惠及全民的“医疗云”正腾空而起。9月4日,国内首个数字化医用耗材“云胶片”省级带量采购项目中标结果正式出炉
2025-09-08 11:53:00
□南京日报/紫金山新闻记者王国俊通讯员宁穗独角兽企业的成长既需要企业自身的科技实力,也离不开良好的发展环境。近日,记者从南京市税务局获悉
2025-09-08 07:42:00
产业发展“最佳助攻”,如此赋能!
9月2日,位于苏美达伊顿纪德仓储分拨中心厂区,申通快递员工直接将打包好的校服扫码揽收、装箱、发出,迅速、高效地将包裹送至客户手中
2025-09-08 07:42:00
□南京日报/紫金山新闻记者徐宁在南京,软件产业创新活力奔涌。南京市千行万业鸿蒙原生应用正式开启,南京开鸿城市产业园在建邺区启动建设
2025-09-08 07:43:00
未来到底怎么飞?2025智博会揭秘蓝天新赛道
大河网讯 低空经济是当下热议的话题,也是智能制造新赛道。在此背景下,2025世界智能产业博览会设置了低空经济专区,展现了各色各样的无人机和低空飞行器
2025-09-07 23:22:00
“跨界玩家”涌现,追觅、MOVA、TCL正用AI重划家电版图|硬氪直击IFA2025
编者按:2025年IFA(柏林国际电子消费品展览会),中国厂商又一次攻占会场。坐拥全球最完善、复杂的供应链,储备下数量最多
2025-09-07 10:05:00