• 我的订阅
  • 科技

欧盟通过AI监管草案后,斯坦福研究显示:全球主流AI模型均不达标 | 最前线

类别:科技 发布时间:2023-06-27 16:37:00 来源:36氪

作者 | 黄金琼

编辑 | 邓咏仪

以ChatGPT为代表的AI大模型技术席卷全球的同时,也引起了广泛争议。如今,监管脚步正在快速迫近。

6月中旬,斯坦福大学AI研究实验室发布了一项对AI大模型的研究的结果。研究以十个AI大模型为研究对象,评估他们是否达到欧盟AI法案的标准。结果显示,这些顶尖的AI模型均没有达标。

斯坦福研究团队在报告中表示:“主要基础模型提供商目前基本上没有遵守这些草案要求。他们很少披露有关其模型的数据、计算和部署以及模型本身的关键特征的足够信息。尤其是,他们不遵守草案要求来描述受版权保护的训练数据的使用、训练中使用的硬件和产生的排放,也不披露如何评估和测试模型的方式。”

欧盟AI法案是世界上第一个AI监管相关法案,从被提出开始即引起全球广泛关注,也会影响大多数AI大模型在欧洲的发展前景。

6月14日,欧洲议会以299票赞成、28票反对、93票弃权的表决结果通过了关于人工智能法案的草案。人工智能草案的内容中,包括明确了关于Open AI和谷歌等模型的义务。法规旨在确保人工智能技术对用户能够保持透明、公平和安全,计划将于2024年生效。

欧盟通过AI监管草案后,斯坦福研究显示:全球主流AI模型均不达标 | 最前线

来源:斯坦福

在斯坦福大学的研究中,研究团队先从监管草案选取出22项要求,再以是否有意义地使用公众信息作为标准,最终选择出12项评估要求,为每个评估要求配备了5点评分标准。在此基础上,研究人员将这12项要求进行维度划分为四个层次,分别是数据来源、数据处理、模型本身和实践应用。

各大AI模型的得分与满分仍有很大差距。主要的问题集中在:版权责任不明确;能源使用报告不均衡;风险缓解方面披露不充分;缺乏评估标准或审计生态系统等等问题。

各家大模型提供商的合规性差异也很大。一些AI大模型公司的得分低于 25%(AI21 Labs、Aleph Alpha、Anthropic)。目前综合得分最高的,是AI大模型开源社区Hugging Face。

最近几个月,大公司的AI发布会同样是证明。在Open AI的GPT-4和谷歌的PaLM2的发布会上,他们也都没有披露关于数据、评估方式等相关内容。

斯坦福团队表示,欧盟所出台的法规具备可行性,目前的AI模型遵守法规要求并非难题。他们在报告对政策制定者、全球政策制定者、模型提供商数方提供建议。比如,AI模型的政策制定者需要在欧盟AI法规的要求下,优先考虑模型的透明度,对于基础模型的开发、使用和性能有关的披露等,这都会提高整个人工智能生态系统的透明度。

而对于模型提供商而言,行业标准是比较大的挑战。在AI大模型领域尚没有成型标准前,斯坦福团队也提出了一些实用的建议——比如改善为大模型开发人员提供的文档。“提供商可以而且应该通过模仿最合规的大模型提供商,来提高自身的合规性。”

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-06-27 17:45:10

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

欧盟《人工智能法案》如何影响开源模型监管?
...额总额7%的巨额罚款以较高者为准。不过,去年6月中旬,斯坦福大学AI研究实验室发布的一项研究显示,包括OpenAI的GPT-4
2024-03-16 13:06:00
OpenAI悄悄下架AI检测器,“用AI监管AI”暂不奏效
...“用AI监管AI”的路子,可能还不太能走通。近期的一则斯坦福研究,也得出了同样的结论。数位斯坦福的专家教授对目前主流的七款AI文本检测器进行了测试,研究结果显示,一些检测器生
2023-07-27 12:55:00
斯坦福AI虚拟小镇开源;英伟达再推超级芯片;OpenAI发布爬虫机器人 | 本周硅谷发生了什么?
...活跃。最火爆的话题,莫过于《西部世界》照进现实——斯坦福Smallville的「虚拟小镇」正式开源,25个人工智能体在小镇中自由生存、从事“类人”活动,引起网友的广泛讨论。另
2023-08-14 15:59:00
硅谷投资人:AIGC浪潮来了 斯坦福教授也坐不住了
...气略带调侃地说。“大浪潮来到,所有的人都坐不住了。斯坦福、伯克利AI方面的教授都觉得自己应该出来创立公司, 这样的机会不一定会再来。”在硅谷的SVC创始合伙人、Zoom早期投
2023-07-26 15:03:00
斯坦福发布ai基础模型“透明度指标”
10月20日消息,斯坦福大学日前发布了AI基础模型“透明度指标”,其中显示指标最高的是Meta的Lama2,但相关“透明度”也只有54%,因此研究人员认为,市面上几乎所有AI模型
2023-10-21 16:47:00
斯坦福团队承认抄袭中国大模型!核心证据来自2300多年前
#斯坦福抄袭中国大模型##斯坦福团队道歉#,今天下午,两个词条分别冲上微博热搜第2和第5位,引发热议。斯坦福团队承认抄袭中国大模型冲上热搜简单说,就是国外一个AI团队主导的开源大
2024-06-05 11:04:00
错例都一样!斯坦福学生团队致歉抄袭中国大模型:已撤回 代码作者失联
美国斯坦福大学的一个AI(人工智能)团队就抄袭中国大模型致歉。近日,由三位美国斯坦福大学学生组成的一个AI团队发布了开源模型Llama3-V
2024-06-04 22:12:00
斯坦福“草泥马”火了:100美元就能比肩gpt-3.5
一夜之间,大模型界又炸出个bignews!斯坦福发布 Alpaca(羊驼,网友口中的“草泥马”):只花100美元,人人都可微调Meta家70亿参数的LLaMA大模型
2023-03-15 22:40:00
雅培心脏瓣膜修复系统获FDA批准;斯坦福AI模型研发新药
...太空活动标准,促进国际合作,保障太空探索安全。NO.5 斯坦福AI模型研发出抗生素新药据外媒,斯坦福医学院和麦克马斯特大学研究人员在生成式AI抗生素研发领域获得突破性进展。他
2024-04-04 22:40:00
更多关于科技的资讯: