• 我的订阅
  • 科技

欧盟拟分三级监管生成式人工智能,模型越强大规则越严

类别:科技 发布时间:2023-10-18 17:03:00 来源:澎湃新闻

第一级将包括所有基础模型;第二级针对“非常强大”的基础模型,将通过用于训练其大型语言模型的算力来区分;第三级被称为大规模通用目的人工智能系统,将包括最流行的人工智能工具,并以用户总数来衡量。

欧盟正在考虑采用分级方法来监管生成式人工智能(AI)模型。一项提案称,欧盟将为3个级别的基础大型语言模型建立规则,并对最强大的AI技术进行额外的外部测试。

根据拟议的规则,第一级将包括所有基础模型;第二级针对“非常强大”的基础模型,将通过用于训练其大型语言模型的算力来区分,提案称这些模型可能“超出了当前的技术水平,并且可能尚未被完全理解”;第三级被称为大规模通用目的人工智能系统,将包括最流行的人工智能工具,并以用户总数来衡量。

像ChatGPT这样的聊天机器人依赖于大型语言模型——即使用大量数据集来开发人工智能的算法,在此基础上开发的生成式人工智能软件可以通过文本、图片和视频来响应人类的提示,其技能水平有时候令人惊讶和担忧。

目前,全球多国都在努力为生成式AI设置护栏,以应对这一新兴技术迅速发展带来的安全风险。欧盟有望成为第一个对人工智能制定强制性规则的西方政府。根据其拟议的《人工智能法案》,开发和部署人工智能系统的公司需要进行风险评估、标记人工智能生成的内容,并完全禁止使用生物识别监控等措施。谈判人员希望在10月25日举行的下次会议上完善该立法,目标是在年底前敲定法案。

欧盟3个机构的代表在本月早些时候的一次会议上普遍支持分级监管方法,但技术专家提出了更具体的建议。根据彭博社看到的10月16日的文件,这些想法目前正在形成,但随着谈判的展开,它们可能会发生变化。

知情人士表示,此举的目标是不让新初创企业承受过多监管负担,同时又对大型企业进行控制。

以下为提案对三级监管的要求:

1.所有基础模型(All Foundational Models)

人工智能开发人员在将任何模型投放市场之前都必须遵守透明度要求。他们必须记录模型及其训练过程,包括内部“红队”工作的结果,即独立专家试图将模型推向不良行为从而对安全性进行评判的过程。开发人员还将根据标准化协议进行评估。

模型投放市场后,公司需要向使用该技术的企业提供信息,并使它们能够测试基础模型。

公司必须对用于开发模型的内容以及如何管理版权问题提供“足够详细”的摘要,包括确保权利所有者可以选择不将其内容用于训练模型。公司还必须确保人工智能内容能够与其他材料区分开来。

谈判人员提议将基础模型定义为一个能够“胜任执行各种独特任务”的系统。

2.非常强大的基础模型(Very Capable Foundation Models)

开发这一级技术的公司将遵守更严格的规则。在投放市场之前,这些模型必须接受外部专家的定期红队审查,这些专家将接受欧盟新成立的人工智能办公室的审查。测试结果将发送给该机构。

公司还必须引入系统来帮助发现系统性风险。这些模型投放市场后,欧盟将让独立审查员和研究人员执行合规控制,包括检查公司是否遵守透明度规则。

谈判代表还考虑为公司创建一个论坛,讨论最佳实践和自愿行为准则,这些准则将得到欧盟委员会的认可。

非常强大的基础模型将根据训练它们所需的算力进行分类,使用称为FLOPS或每秒浮点运算的衡量标准。确切的门槛将由欧盟委员会在稍后阶段确定,并将根据需要进行更新。

公司可以对这一评估提出异议。相反,即使调查后未达到阈值,委员会也可以认为模型“非常强大”。谈判人员还在考虑使用该模型的“潜在影响”——基于其上构建的高风险人工智能应用程序的数量,作为对技术进行分类的一种方式。

3. 大规模通用目的人工智能系统(General Purpose AI Systems at Scale)

这些系统也必须接受外部专家的红队检查以识别漏洞,结果将发送给委员会的人工智能办公室。公司还必须引入风险评估和缓解系统。

欧盟将认定任何拥有10000名注册企业用户或4500万注册终端用户的系统都属于大规模通用目的人工智能系统。委员会稍后将决定如何计算用户数量。

公司可以就其大规模通用人工智能系统的地位提起上诉,同样,欧盟可以让其他系统或模型遵守这些附加规则,即使它们没有达到阈值,但可能“引发风险”。

此外,提案表示,需要进一步讨论来确定护栏,以确保通用目的人工智能系统和非常强大的人工智能系统都不会生成非法和有害内容。

大规模通用目的人工智能和非常强大的基础模型的附加规则将由新的人工智能办公室监督。该机构可以索取文件、组织合规测试、创建注册制度审核红队测试人员并进行调查。该机构甚至可以“作为最后手段”暂停某个模型。

人工智能办公室虽然位于欧盟委员会内,但将是“独立的”。欧盟可以对大规模通用目的人工智能和非常强大的基础模型收取费用,从而获得资金来雇用办公室人员。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-10-18 21:45:05

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

七部门联手发布《生成式人工智能基础设施和公共训练暂行办法》
...业正式迎来首个监管文件。继今年4月网信办就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见后,7月13日,网信办等七部门正式发布了《生成式人工智能服务管理暂行办法》(
2023-07-13 22:39:00
欧盟寻求年内就chatgpt等生成式ai监管规则达成一致
...想法。生成式AI是一种能够从数据中学习并创造新内容的人工智能技术,近年来引起了广泛的关注和讨论。它有着巨大的潜力和挑战,可能会对创意产业、社会安全和人权等领域产生深远的影响。
2023-04-25 19:55:00
为什么全人类都呼吁把通用人工智能“管起来”?
...GI研发暂停6个月,从而让人类社会达成某种基于AGI(通用人工智能)威胁的协议。这封信虽然文本不长,但是涵盖了非常广泛的内容,内含的问题很丰富。比如,人类该如何算这笔账——A
2023-04-13 14:11:00
...自:经济参考报当地时间2月5日,为期两天的第二届全球人工智能(AI)伦理论坛在斯洛文尼亚克拉尼举行。此次活动由联合国教科文组织支持和赞助,斯洛文尼亚数字转型部主办。此次论坛以
2024-02-07 07:35:00
...文转自:科技日报◎本报记者 崔 爽过去几个月,ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性,谷歌、亚马逊等巨头纷纷推出自主研
2023-04-24 01:36:00
G7给AI监管“筑高墙”
...意制定一份行为准则,规范各大公司开发以及建设先进的人工智能系统。此举正值全球各国政府寻求降低人工智能的风险和潜在的滥用人工智能技术的方法之际。报告补充称,自愿行为准则将为全球
2023-10-30 23:36:00
...模型首获上线,产品化如何落地?作者 于芳博 中信建投人工智能首席分析师杨艾莉 中信建投证券传媒互联网首席分析师8月31日,中国国内首批八家大模型通过《生成式人工智能服务管理暂
2023-09-04 18:46:00
...,促使其解除了对聊天机器人ChatGPT的临时禁令,但这家人工智能研究公司与欧洲监管机构的斗争仍未结束,更多挑战才刚刚开始。今年早些时候,OpenAI广受欢迎但备受争议的聊天
2023-05-07 18:43:00
...、信息茧房、算法霸权等伦理和法律问题。如何更好监管人工智能算法,监管手段和能力如何相应提升,对我国相关产业的发展和国家治理能力现代化至关重要。现状与问题(一)已出台的算法管理
2024-02-27 01:04:00
更多关于科技的资讯:
量子位「MEET2026智能未来大会」启动!
我们正迈入一个由人工智能重塑一切的新时代。智能技术已经深刻渗透进生产和生活,跨越了软件、硬件、机器人等不同形态,从工具发展为能深度理解人类需求的智能伙伴
2025-09-20 05:23:00
纵览·9张|空间魔术师
壹 随着网购的便利化和生活节奏的加快,许多人在购物的同时,却忽视了归纳和“断舍离”。于是整理收纳师进入了大家视野,成为走俏的新职业
2025-09-20 08:02:00
iPhone17系列正式发售,多地门店排起长队,有黄牛加价500元收购Max 256G版本
北京时间9月19日,iPhone 17系列正式发售,线上抢购到首批货源的用户将陆续收到新机,官方零售店也于8:00提前开门营业供预约取货用户取货
2025-09-19 12:06:00
在杭州看见创新未来 第四届数贸会全景前瞻
第四届全球数字贸易博览会(以下简称“数贸会”)将于2025年9月25日至29日在杭州大会展中心举行。作为我国唯一以数字贸易为主题的国家级
2025-09-19 14:13:00
走向国际,INGS英树三度荣获IFSCC青睐
2025年9月15日至18日,第35届IFSCC国际化妆品科学大会以“THE FUTURE IS SCIENCE”为主题于法国戛纳盛大启幕
2025-09-19 14:16:00
国网高密市供电公司:物资仓库里的“绣花功夫”
大众网记者 宋学敏 通讯员 赵雯雯 贾聚光 潍坊报道9月19日,走进国网高密市供电公司物资供应分中心的物资仓库,整齐的货架
2025-09-19 14:23:00
研发投入年增超40%!Coosea酷赛智能凭什么敢在创新上“下血本”?
在智能制造与AI设备行业加速迭代的浪潮中,研发实力已成企业核心竞争力的关键。近日,Coosea酷赛智能披露的研发投入数据引发行业关注——其研发投入年增超40%
2025-09-19 14:51:00
喜茶「超级植物茶」上新一周年,差异化引领新茶饮产品趋势
9月19日,喜茶「超级植物茶」迎来上新一周年。据官方数据显示,「超级植物茶」全系列产品已售出超1亿杯,喜茶坚持采用新鲜的羽衣甘蓝每日现榨
2025-09-19 15:01:00
京东运动户外品类日开启 运动、健身、户外出游全场景好物立减12%
秋高气爽迎国庆,正是走出家门、拥抱自然的好时机。9月19日晚8点至20日,京东运动户外品类日正式开启,携手阿迪达斯、北面
2025-09-19 15:08:00
华为云杨友桂:数智化转型从来不是 \
9月19日,在华为全联接大会2025上,华为高级副总裁、华为云全球Marketing与销售服务总裁杨友桂介绍了华为云如何通过四大关键竞争力
2025-09-19 15:24:00
焕新家庭储鲜,澳柯玛多款行业领先冷柜亮相电博会
鲁网9月19日讯2025年9月19日至21日,中国国际消费电子博览会在青岛国际会展中心盛大举行。作为温度科技专家的澳柯玛
2025-09-19 15:25:00
当下,金融科技行业正站在新一轮周期的关键拐点。当金融科技领域历经市场的深度重塑,行业周期拐点下,平台该如何突围?辽宁自贸试验区(营口片区)桔子数字科技有限公司(简称“桔子数科”)以科技赋能为锚点
2025-09-19 15:28:00
“媒体+科技”构建融媒服务新生态 长城新媒体集团与腾讯签订战略合作协议
金秋时节,硕果盈枝。2025年9月16日,长城新媒体集团有限公司与深圳市腾讯计算机系统有限公司在2025全球数字生态大会期间签订战略合作协议
2025-09-19 15:34:00
做教育行业的“清流”,高途以人文和体育探索营销新范式
进入2025年,教育行业在调整期后逐步迎来品牌动作的复苏潮。在行业变革的深水区,品牌营销往往是透视品牌预期和行业趋势的风向标
2025-09-19 15:34:00
近年来,以网剧、网文、网游为代表的中国文化出海“新三样”,在国际市场取得亮眼表现。9月12日,在《文化纵横》杂志社举办的“迈向全球的当代中国文化产业”研讨会上
2025-09-19 15:34:00