• 我的订阅
  • 科技

构建“安全护栏” 让AI更好服务人类

类别:科技 发布时间:2023-06-12 01:36:00 来源:每日看点快看

本文转自:科技日报

专家在二○二三北京智源大会上呼吁——

构建“安全护栏” 让AI更好服务人类

◎本报记者 付丽丽 实习记者 裴宸纬

人工智能正在扩展人类想象力的画布,并以极快的速度这样做。

“想象一下,未来10年,人工通用智能系统(简称AGI)几乎在每一个领域都超过了人类的专业知识,该系统最终可能超过所有大型公司的总体生产力。这将提高人们的生活水平,但同时,我们必须共同管理其可能带来的风险。”6月10日,在2023北京智源大会—AI安全与对齐论坛上,OpenAI联合创始人山姆·阿尔特曼在其主题演讲中如是说。

阿尔特曼直言,AGI是一项关乎全球的技术,不计后果地开发和部署所带来的事故成本将影响到每一个人。“超强人工智能在10年内就会出现,现在,尽管这项技术仍处于早期,但在全球范围内建立合作的标准和框架是必要的。”阿尔特曼呼吁,人类需要为AI构筑“安全护栏”,使之更好地服务人类。

北京智源人工智能研究院院长黄铁军也表示,今年,一批大模型问世,人工智能出现了六七十年来里程碑式的新特性——涌现性,即能够产生预料之外的新能力,这也引发了很多人新的担忧。

人们担心,由于AI会涌现出各种各样预料之外的可能,因此很难对其进行监管。“这是一个巨大挑战。”黄铁军坦言,“但这并不意味着人们无法对AI进行管理。”他表示,人类和AI相似,同样也是不可预测的智能系统。实践证明,伦理、法律法规等方式很好地为人类树立了规范。如何管理一个创造性极强的系统,社会学、历史学等学科都能提供很好的借鉴意义。

技术层面上,OpenAI正在推进对齐研究,让AGI与人类价值观保持一致并遵循人类意图。“我们应该在促进和引导AI对齐与安全研究方向进行投资。”阿尔特曼说。

未来的AGI系统或许具有10万行二进制代码,人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。

阿尔特曼表示,对数据集参数极其庞大的大模型而言,很难以人力的方式逐一让AI与人类价值观对齐。为此,可使用一种名为“可拓展监督”的方式。“我们可以尝试使用AI系统来协助人类监督其他AI系统。”他说,这种方式的最终目标,是训练AI系统来帮助人类进行对齐研究。

同时,还要加强合作。阿尔特曼认为,随着人工智能系统越来越强大,全球合作变得前所未有的重要。首先,应在技术研发过程中建立平等、统一的国际规范和标准,以便所有国家都能使用AGI;其次,应通过国际合作,以可验证的方式,建立全球对日益强大的人工智能系统安全开发的信任体系。

做到上述两点并不容易,需要国际科技界的通力合作,特别是在推动建立提高人工智能系统安全技术进步方面的透明度和知识共享的机制方面。当研究人员发现新出现的安全问题时,应及时分享他们的见解,以实现利益的最大化。“我们需要认真思考,如何在尊重和保护知识产权的同时,鼓励这样的规范。这可以为深化合作打开新的大门。”阿尔特曼说。

“中国拥有世界上一些最优秀的AI系统。”阿尔特曼表示,“真诚希望中国和美国的研究人员能对AI领域的国际合作作出贡献。”

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-06-12 05:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

openaiceo阿尔特曼:ai对人类构成了“生存风险”
6月8日消息,OpenAI首席执行官SamAltman(山姆・阿尔特曼)在访问阿拉伯联合酋长国期间警告说,AI对人类构成了“生存风险”
2023-06-08 22:55:00
阿尔特曼:人工智能将会成为世界上前所未有的新工具
4月9日,OpenAI首席执行官阿尔特曼(SamAltman)与霍华德大学校长BenVinsonIII博士进行了一次有关人工智能的对话
2024-04-11 23:10:00
创始人大婚,ChatGPT打响下半场
...海滩,AI圈又有喜事发生:ChatGPT之父、OpenAI创始人山姆·阿尔特曼(Sam Altman)结婚了!“新娘”奥利弗·穆赫林(Oliver Mulhern)
2024-01-15 07:00:00
阿尔特曼眼球扫描加密项目推出 Orb 新品
...强版研究扫描Orb设备。World公司由OpenAI首席执行官山姆・阿尔特曼(SamAltman)共同创立,主要在加密货币
2024-10-20 18:54:00
OpenAI宫斗戏剧集更新:首席科学家表达懊悔,数十名核心员工出逃
山姆·阿尔特曼( Sam Altman)离开其一手创立的OpenAI已成定局。11月20日,微软董事长兼CEO萨提亚·纳德拉( Satya Nadella)通过社交平台宣布
2023-11-21 09:46:00
马斯克担心AI会失控:除非我们建立防火墙,否则AI可能取代人类
...为此做点儿什么的程度。”马斯克随后把目光投向山姆·阿尔特曼,这个人的身份是三位一体的—软件公司的企业家、跑车爱好者和生存主义者,三者难舍难分。他光鲜亮丽的外表掩盖了一种与马斯
2023-09-11 17:35:00
阿尔特曼巡访,王慧文病休:问世200天,ChatGPT“风力”减弱?
春夏之交,OpenAI CEO萨姆·阿尔特曼进行了一场世界巡访。这场巡访史无前例,阿尔特曼5月横穿欧洲,6月漫步亚洲,先后到访了包括西班牙、荷兰、法国、波兰以及日本、韩国、印度等
2023-06-26 17:53:00
OpenAI高层“巨震”,多方猜测阿尔特曼离职原因
...东时间周五(11月17日),OpenAI董事会表示,由于对山姆·阿尔特曼(SamAltman)领导公司的能力失去了信心
2023-11-18 22:27:00
阿尔特曼重返OpenAI,多方角逐权力分配
...(周三)午后,在经历近5天的反转再反转之后,OpenAICEO阿尔特曼被开除的“宫斗”大戏迎来结局:阿尔特曼及其盟友布罗克曼重返OpenAI。但在这场震动全球科技圈的大事件中
2023-11-25 18:36:00
更多关于科技的资讯:
2025新能源汽车零部件交易会丨新闻链接:产业巨头齐聚十堰 共话车载视听新场景
十堰广电讯(全媒体记者 翁红 张欣)车载视听不仅承载着信息传播、娱乐休闲的基本功能,也日益成为重要的宣传舆论阵地,给广大人民群众的精神文化生活带来了全新体验
2025-09-20 20:42:00
十堰广电讯(全媒体记者 陈林 通讯员 刘爱理)9月19日下午,2025新能源汽车零部件交易会汽车产业链出海对接会举行。会上
2025-09-20 20:42:00
了不起的河南制造丨牧原集团推出智能养猪方案 让“二师兄”过上“芯”生活
大河网讯 无针注射器、智能环控器、智能测定仪、智能机器人、猪群咳嗽管家……9月20日,2025世界制造业大会在安徽省合肥市召开
2025-09-20 18:17:00
近日,被认为是中国新式茶饮第一股的奈雪发布了中期业绩报告,数据显示公司上半年实现营收21.78亿元,较去年同期下降14
2025-09-20 18:05:00
展现数字化发展硬实力 济南能源集团亮相2025国际数字能源展
大众网记者 赵港宁 济南报道9月18日,以“深AI能源 数创未来”为主题的2025国际数字能源展在深圳举行。济南能源集团所属神思电子
2025-09-20 11:22:00
量子位「MEET2026智能未来大会」启动!
我们正迈入一个由人工智能重塑一切的新时代。智能技术已经深刻渗透进生产和生活,跨越了软件、硬件、机器人等不同形态,从工具发展为能深度理解人类需求的智能伙伴
2025-09-20 05:23:00
纵览·9张|空间魔术师
壹 随着网购的便利化和生活节奏的加快,许多人在购物的同时,却忽视了归纳和“断舍离”。于是整理收纳师进入了大家视野,成为走俏的新职业
2025-09-20 08:02:00
iPhone17系列正式发售,多地门店排起长队,有黄牛加价500元收购Max 256G版本
北京时间9月19日,iPhone 17系列正式发售,线上抢购到首批货源的用户将陆续收到新机,官方零售店也于8:00提前开门营业供预约取货用户取货
2025-09-19 12:06:00
在杭州看见创新未来 第四届数贸会全景前瞻
第四届全球数字贸易博览会(以下简称“数贸会”)将于2025年9月25日至29日在杭州大会展中心举行。作为我国唯一以数字贸易为主题的国家级
2025-09-19 14:13:00
走向国际,INGS英树三度荣获IFSCC青睐
2025年9月15日至18日,第35届IFSCC国际化妆品科学大会以“THE FUTURE IS SCIENCE”为主题于法国戛纳盛大启幕
2025-09-19 14:16:00
国网高密市供电公司:物资仓库里的“绣花功夫”
大众网记者 宋学敏 通讯员 赵雯雯 贾聚光 潍坊报道9月19日,走进国网高密市供电公司物资供应分中心的物资仓库,整齐的货架
2025-09-19 14:23:00
研发投入年增超40%!Coosea酷赛智能凭什么敢在创新上“下血本”?
在智能制造与AI设备行业加速迭代的浪潮中,研发实力已成企业核心竞争力的关键。近日,Coosea酷赛智能披露的研发投入数据引发行业关注——其研发投入年增超40%
2025-09-19 14:51:00
喜茶「超级植物茶」上新一周年,差异化引领新茶饮产品趋势
9月19日,喜茶「超级植物茶」迎来上新一周年。据官方数据显示,「超级植物茶」全系列产品已售出超1亿杯,喜茶坚持采用新鲜的羽衣甘蓝每日现榨
2025-09-19 15:01:00
京东运动户外品类日开启 运动、健身、户外出游全场景好物立减12%
秋高气爽迎国庆,正是走出家门、拥抱自然的好时机。9月19日晚8点至20日,京东运动户外品类日正式开启,携手阿迪达斯、北面
2025-09-19 15:08:00
华为云杨友桂:数智化转型从来不是 \
9月19日,在华为全联接大会2025上,华为高级副总裁、华为云全球Marketing与销售服务总裁杨友桂介绍了华为云如何通过四大关键竞争力
2025-09-19 15:24:00