• 我的订阅
  • 科技

以负责任态度推动生成式人工智能发展

类别:科技 发布时间:2023-11-10 04:07:00 来源:每日看点快看

本文转自:科技日报

2023年世界互联网大会发布报告及共识——

以负责任态度推动生成式人工智能发展

◎本报记者 崔 爽

今年以来,以ChatGPT为代表的生成式人工智能广受关注,其对经济发展、社会进步、公益事业及科学研究起到积极的推动作用,但同时也带来包括技术内在风险引发安全隐患、人机关系变化深化科学伦理失范、技术跃进引发人类社会发展等挑战。

11月9日,2023年世界互联网大会正式发布《发展负责任的生成式人工智能研究报告及共识文件》(以下简称《报告》)。作为大会的重要成果,《报告》由世界互联网大会人工智能工作组编写。工作组成立于今年8月,成员来自全球40余家产业链企业和高端智库、国际组织、高校等,致力于推动发展负责任的人工智能。

《报告》具有鲜明可执行性

《报告》提出,应正确认识生成式人工智能所蕴含的巨大潜力和可能风险,遵循统筹发展和安全、平衡创新与伦理、均衡效益与风险的理念,推动生成式人工智能负责任地发展。一方面,应积极推动创新、可持续、包容开放的发展,提升生成式人工智能算力高效、数据高质、算法创新、人才多元、生态开放的能力;另一方面,以高度负责任的态度发展可靠可控、透明可释、数据保护、多元包容、明确责任、价值对齐的生成式人工智能。

“工作组总结提炼了发展负责任的生成式人工智能十条共识,还搜集了全球企业将生成式人工智能应用于交通、金融、教育、医疗等14个领域的57个实践案例。”世界互联网大会常务副秘书长梁昊在“人工智能赋能产业发展论坛”上介绍。

生成式人工智能展现出强大的生成创造能力,在文本、代码、图像、音视频等方面的理解与生成取得突破性进展,开始涌现出“智慧”。速度之快、赋能范围之广、影响程度之深前所未有。以负责任的态度推动生成式人工智能发展不仅十分必要,也愈发紧迫。

据介绍,相比同期其他类型文件,《报告》提出具有极强可操作性的共识意见,包括明晰归责体系、构建追溯机制、探索治理沙盒等创新友好型治理体系。其关于推动生成式人工智能更好地理解人类意图、遵循人类指令并符合人类伦理道德的共识,从探索价值对齐研究和提升价值对齐技术两个方面入手,在可操作性与可实现性方面具有鲜明特点。

不同主体承担应有责任

“人工智能技术能力越强,潜在隐藏的风险可能越大。”中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅谈到,从幻觉、数据偏见等内生风险,到错误使用、恶意使用造成的风险,“最大的风险可能来自对人工智能的能力将达到何种水平的不确定性,这带来对风险及连带的风险控制体系的不确定性。”

“我们强调公平性,去除偏见,也特别强调追责。”思科大中华区副总裁卜宪录介绍了相关经验,在从开发、使用到退出的整个周期,技术必须是可以回溯、可以追责的,同时,生成式人工智能需要产生一个可以复制的可靠结果。

“发展负责任的生成式人工智能,需要产业链各个环节紧密配合,践行共商、共建、共治、共享理念,不同主体各自承担应有责任。”中国信息通信研究院人工智能创新中心负责人、世界互联网大会人工智能工作组副组长魏凯表示。

在印象笔记董事长唐毅看来,面对新技术带来的爆发式增长与乱象,从业者要在充分理解技术发展的成熟度、市场需求、商业模式的可行性及法律约束等因素的基础上,去寻求新技术的落地突破,进而推动产业变革。

“从气候变化到全民教育、自然灾害管理、性别平等、智能出行、智慧城市,这些场景肯定存在人工智能的身影。人工智能等数字解决方案可以直接惠及70%的联合国可持续发展目标。”国际电信联盟标准化局战略部主任、AI向善峰会负责人弗里德里克·维尔纳把目光对准人工智能对可持续发展的作用,但他同时强调,自动化导致的数据偏见、歧视,对道德、安全、隐私的担忧,以及对进一步加深数字鸿沟的可能等令人无法忽视。

“人工智能太重要了,不能只留给专家们。”弗里德里克呼吁,从产业界到政府、学术界、非政府组织、民间社会,大家要尽可能多地发出声音。

(科技日报浙江乌镇11月9日电)

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-11-10 05:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

...技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下简称《办法》),将自2023年8月15日起施行。《办法》涵盖了技术发展与治理、服务规范、监督
2023-07-14 22:28:00
...运用与监管备受社会关注。近日,国家网信办就《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)向社会公开征求意见,拟进一步强化相关主体责任,内容涉及数据安全
2023-04-18 02:15:00
浙大毕业生加入马斯克新AI公司,要探索宇宙真相!
...知道吗?特斯拉创始人埃隆·马斯克最近创立了一个新的人工智能公司,名为xAI,其目标是“了解宇宙的真实本质”。这个团队由12名顶尖的人工智能专家组成,其中有三分之一是华人,而本
2023-07-16 06:13:00
七部门联手发布《生成式人工智能基础设施和公共训练暂行办法》
...业正式迎来首个监管文件。继今年4月网信办就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见后,7月13日,网信办等七部门正式发布了《生成式人工智能服务管理暂行办法》(
2023-07-13 22:39:00
对话|申晓雨:国内在ChatGPT等AI治理上以“软法”为主,后续强制规范可能增加
...在产业政策方面,我国从2017年起就颁布了例如《新一代人工智能发展规划》《促进新一代人工智能产业发展三年行动计划(2018-2020)》《国家新一代人工智能创新发展试验区建设
2023-02-23 15:00:00
北京严禁AI自动生成处方!专家:为AIGC在医疗领域划一道红线
...”)。《办法》第十四条、第二十二条规定,其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务。处方应由接诊医师本人开具,经药师审核合格后方可生效,严禁使用人工智能等自动
2023-08-23 15:56:00
薛澜谈如何给人工智能“装刹车”
...自:中国新闻网中新社北京4月26日电 (记者 庞无忌)面对人工智能可能引起的诸如伦理、安全等挑战,业内人士呼吁要给人工智能“装上刹车再上路”。26日在2024中关村论坛年会间
2024-04-26 21:44:00
本文转自:经济参考报看世界·“人工智能+”在国外美国:人工智能正从流行词变成生产力许多美国企业不仅把人工智能当作流行词汇挂在嘴边,而是在生产经营的方方面面尝试采用相关技术,以提高
2024-04-19 02:32:00
...自:人民法院报在数字技术快速迭代和普遍应用的今天,人工智能作为数字技术应用的集大成者,对现有法律制度提出了不少挑战。司法审判不仅面临不易理解的技术发展,还要将存在一定滞后性的
2024-01-04 06:06:00
更多关于科技的资讯: