• 我的订阅
  • 科技

欧盟拟分三级监管生成式人工智能,模型越强大规则越严

类别:科技 发布时间:2023-10-18 17:03:00 来源:澎湃新闻

第一级将包括所有基础模型;第二级针对“非常强大”的基础模型,将通过用于训练其大型语言模型的算力来区分;第三级被称为大规模通用目的人工智能系统,将包括最流行的人工智能工具,并以用户总数来衡量。

欧盟正在考虑采用分级方法来监管生成式人工智能(AI)模型。一项提案称,欧盟将为3个级别的基础大型语言模型建立规则,并对最强大的AI技术进行额外的外部测试。

根据拟议的规则,第一级将包括所有基础模型;第二级针对“非常强大”的基础模型,将通过用于训练其大型语言模型的算力来区分,提案称这些模型可能“超出了当前的技术水平,并且可能尚未被完全理解”;第三级被称为大规模通用目的人工智能系统,将包括最流行的人工智能工具,并以用户总数来衡量。

像ChatGPT这样的聊天机器人依赖于大型语言模型——即使用大量数据集来开发人工智能的算法,在此基础上开发的生成式人工智能软件可以通过文本、图片和视频来响应人类的提示,其技能水平有时候令人惊讶和担忧。

目前,全球多国都在努力为生成式AI设置护栏,以应对这一新兴技术迅速发展带来的安全风险。欧盟有望成为第一个对人工智能制定强制性规则的西方政府。根据其拟议的《人工智能法案》,开发和部署人工智能系统的公司需要进行风险评估、标记人工智能生成的内容,并完全禁止使用生物识别监控等措施。谈判人员希望在10月25日举行的下次会议上完善该立法,目标是在年底前敲定法案。

欧盟3个机构的代表在本月早些时候的一次会议上普遍支持分级监管方法,但技术专家提出了更具体的建议。根据彭博社看到的10月16日的文件,这些想法目前正在形成,但随着谈判的展开,它们可能会发生变化。

知情人士表示,此举的目标是不让新初创企业承受过多监管负担,同时又对大型企业进行控制。

以下为提案对三级监管的要求:

1.所有基础模型(All Foundational Models)

人工智能开发人员在将任何模型投放市场之前都必须遵守透明度要求。他们必须记录模型及其训练过程,包括内部“红队”工作的结果,即独立专家试图将模型推向不良行为从而对安全性进行评判的过程。开发人员还将根据标准化协议进行评估。

模型投放市场后,公司需要向使用该技术的企业提供信息,并使它们能够测试基础模型。

公司必须对用于开发模型的内容以及如何管理版权问题提供“足够详细”的摘要,包括确保权利所有者可以选择不将其内容用于训练模型。公司还必须确保人工智能内容能够与其他材料区分开来。

谈判人员提议将基础模型定义为一个能够“胜任执行各种独特任务”的系统。

2.非常强大的基础模型(Very Capable Foundation Models)

开发这一级技术的公司将遵守更严格的规则。在投放市场之前,这些模型必须接受外部专家的定期红队审查,这些专家将接受欧盟新成立的人工智能办公室的审查。测试结果将发送给该机构。

公司还必须引入系统来帮助发现系统性风险。这些模型投放市场后,欧盟将让独立审查员和研究人员执行合规控制,包括检查公司是否遵守透明度规则。

谈判代表还考虑为公司创建一个论坛,讨论最佳实践和自愿行为准则,这些准则将得到欧盟委员会的认可。

非常强大的基础模型将根据训练它们所需的算力进行分类,使用称为FLOPS或每秒浮点运算的衡量标准。确切的门槛将由欧盟委员会在稍后阶段确定,并将根据需要进行更新。

公司可以对这一评估提出异议。相反,即使调查后未达到阈值,委员会也可以认为模型“非常强大”。谈判人员还在考虑使用该模型的“潜在影响”——基于其上构建的高风险人工智能应用程序的数量,作为对技术进行分类的一种方式。

3. 大规模通用目的人工智能系统(General Purpose AI Systems at Scale)

这些系统也必须接受外部专家的红队检查以识别漏洞,结果将发送给委员会的人工智能办公室。公司还必须引入风险评估和缓解系统。

欧盟将认定任何拥有10000名注册企业用户或4500万注册终端用户的系统都属于大规模通用目的人工智能系统。委员会稍后将决定如何计算用户数量。

公司可以就其大规模通用人工智能系统的地位提起上诉,同样,欧盟可以让其他系统或模型遵守这些附加规则,即使它们没有达到阈值,但可能“引发风险”。

此外,提案表示,需要进一步讨论来确定护栏,以确保通用目的人工智能系统和非常强大的人工智能系统都不会生成非法和有害内容。

大规模通用目的人工智能和非常强大的基础模型的附加规则将由新的人工智能办公室监督。该机构可以索取文件、组织合规测试、创建注册制度审核红队测试人员并进行调查。该机构甚至可以“作为最后手段”暂停某个模型。

人工智能办公室虽然位于欧盟委员会内,但将是“独立的”。欧盟可以对大规模通用目的人工智能和非常强大的基础模型收取费用,从而获得资金来雇用办公室人员。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-10-18 21:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

七部门联手发布《生成式人工智能基础设施和公共训练暂行办法》
...业正式迎来首个监管文件。继今年4月网信办就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见后,7月13日,网信办等七部门正式发布了《生成式人工智能服务管理暂行办法》(
2023-07-13 22:39:00
欧盟寻求年内就chatgpt等生成式ai监管规则达成一致
...想法。生成式AI是一种能够从数据中学习并创造新内容的人工智能技术,近年来引起了广泛的关注和讨论。它有着巨大的潜力和挑战,可能会对创意产业、社会安全和人权等领域产生深远的影响。
2023-04-25 19:55:00
为什么全人类都呼吁把通用人工智能“管起来”?
...GI研发暂停6个月,从而让人类社会达成某种基于AGI(通用人工智能)威胁的协议。这封信虽然文本不长,但是涵盖了非常广泛的内容,内含的问题很丰富。比如,人类该如何算这笔账——A
2023-04-13 14:11:00
...自:经济参考报当地时间2月5日,为期两天的第二届全球人工智能(AI)伦理论坛在斯洛文尼亚克拉尼举行。此次活动由联合国教科文组织支持和赞助,斯洛文尼亚数字转型部主办。此次论坛以
2024-02-07 07:35:00
...文转自:科技日报◎本报记者 崔 爽过去几个月,ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性,谷歌、亚马逊等巨头纷纷推出自主研
2023-04-24 01:36:00
G7给AI监管“筑高墙”
...意制定一份行为准则,规范各大公司开发以及建设先进的人工智能系统。此举正值全球各国政府寻求降低人工智能的风险和潜在的滥用人工智能技术的方法之际。报告补充称,自愿行为准则将为全球
2023-10-30 23:36:00
...模型首获上线,产品化如何落地?作者 于芳博 中信建投人工智能首席分析师杨艾莉 中信建投证券传媒互联网首席分析师8月31日,中国国内首批八家大模型通过《生成式人工智能服务管理暂
2023-09-04 18:46:00
...,促使其解除了对聊天机器人ChatGPT的临时禁令,但这家人工智能研究公司与欧洲监管机构的斗争仍未结束,更多挑战才刚刚开始。今年早些时候,OpenAI广受欢迎但备受争议的聊天
2023-05-07 18:43:00
...、信息茧房、算法霸权等伦理和法律问题。如何更好监管人工智能算法,监管手段和能力如何相应提升,对我国相关产业的发展和国家治理能力现代化至关重要。现状与问题(一)已出台的算法管理
2024-02-27 01:04:00
更多关于科技的资讯:
拾亿圆赋能商业新想象,Eleven Homebar重塑年轻人轻社交
当城市的夜幕垂下,白天的喧嚣却并未沉寂,而是悄然转化为了另一种生机勃勃的形态。对于越来越多的年轻人而言,夜间已经成为生活的重要时段
2025-09-12 13:56:00
唐山港京唐港区首台智慧生态机器人上岗
河北新闻网讯(任小霞、王育民)9月8日,唐山港京唐港区矿石码头首台智慧生态机器人正式上岗。这台机器人具有灵敏感知、快速决策
2025-09-12 13:57:00
360联盟合作伙伴大会圆满落幕,共探AI时代广告联盟破界增长之道
随着AI技术在数字营销领域的深入应用,营销行业正朝着技术驱动、效率提升和生态协同的方向不断进化,也为行业参与者带来了更加多元的发展机遇
2025-09-12 13:57:00
河北新闻网讯(刘蕾、师源)9月10日,唐山高新区商务局举办“数智浪潮・无界跨境”唐山内转外专享外贸峰会,全市130余家意向“出海”企业参会
2025-09-12 13:57:00
北京大学医学博士陶勇教授携手Blueglass,推出联名护眼酸奶“叶黄素太空益生菌黑加仑益生菌含酸奶饮”
当眼科专家遇上健康食品创新,一场关于眼部健康的饮食革命正在悄然发生。北京大学医学博士陶勇教授与高端现制酸奶品牌Blueglass正式联手
2025-09-12 13:59:00
创作人的福音来了!微信公众号智能回复功能上线,还可以24小时在线陪聊
9月11日,微信派公众号发文称:微信公众号智能回复功能上线。在公众号 PC 端后台“互动管理”内点击“自动回复”,即可开启“智能回复”
2025-09-12 11:55:00
唐山百川机器人共享智能制造工厂通过“共享制造”模式,为京津冀中小企业提供非标零件加工、样机试制等一站式服务。该工厂拥有800台智能设备和千余名技术人员
2025-09-12 09:21:00
聚焦酒博会|共赴“佳酿之约”,酒博会“新朋友”为行业注入新活力
9月9日至13日,以“汇全球佳酿促开放合作”为主题的第十四届中国(贵州)国际酒类博览会在贵阳举行。本届盛会不仅汇聚了众多行业“老朋友”
2025-09-12 06:01:00
潍柴船舶动力新能源产品,大会现场批量签单!
9月9日-10日,作为我国航运领域最具影响力的行业盛会之一,内河航运高质量发展论坛(2025)在重庆举行。来自全国水运行业的200余家单位代表齐聚一堂
2025-09-12 07:05:00
南报网讯(记者张安琪)在2025江苏产学研合作对接大会主题大会上,长城企业战略研究所首次发布2025中国科创未来之星企业研究报告
2025-09-12 07:44:00
□南京日报/紫金山新闻记者黄琳燕清晨,老山脚下的养蜂基地里,蜂农按规范检查蜂群,采集的蜂王浆样本贴着专属溯源码;生产车间内
2025-09-12 07:44:00
2025江苏产学研合作对接大会成果、需求集中发布
9月11日,2025江苏产学研合作对接大会在南京国展中心开幕。在合作洽谈区域,各大企业、高校、科研院所的创新科技产品纷纷亮相
2025-09-12 07:45:00
从科幻到现实,脑机接口领域的“山海经”
工作人员正在对脑机接口产品进行研发、测试。南京日报/紫金山新闻记者 孙中元 摄将小鼠与设备连接,研究人员即可通过查看小鼠的脑电波数据
2025-09-12 07:45:00
□南京日报/紫金山新闻记者田诗雨李香君故居陈列馆创建独立女性品牌仅一个月,相关文创产品销售额同比增长788%;南京中国科举博物馆暑期推出“能喝的墨水”
2025-09-12 07:46:00
河北日报讯(见习记者康晓博)能够自动监控、及时预警的“两个半径”防机械伤害系统,可广泛应用在机场、火车站等人流密集区的智能环保电警摄像单元
2025-09-12 07:54:00