• 我的订阅
  • 科技

德国OpenAI加入开源大战!发布欧洲纯血版模型,曾获博世和惠普投资

类别:科技 发布时间:2024-08-28 09:43:00 来源:智东西
德国OpenAI加入开源大战!发布欧洲纯血版模型,曾获博世和惠普投资

智东西8月27日消息,据VentureBeat报道,德国AI创企Aleph Alpha今日发布了两个大语言模型(LLM)。这两个模型各拥有70亿个参数,可以在多种欧洲语言中提供简洁、长度可控的响应,并已开源。该公司宣称,其模型的性能可以与其他在70亿到80亿参数量级的顶尖开源模型相媲美。

除了新发布的模型,Aleph Alpha之前还开发了拥有700亿参数(大约是GPT-3的2/5)的预训练模型Luminous,并在其基础上训练了聊天机器人Lumi。该公司成立于2019年,通常被视为欧洲在AI领域的重要参与者之一。2023年11月7日,该公司宣布获得超过5亿美元(折合约36亿人民币)B轮融资,由博世风投、施瓦茨集团、SAP、惠普等知名财团参投。

德国OpenAI加入开源大战!发布欧洲纯血版模型,曾获博世和惠普投资

下载地址:Aleph-Alpha/Pharia-1-LLM-7B-control at main (huggingface.co)

一、与Mistral、Llama能力相近,且更安全透明

Aleph Alpha发布了两个版本的模型:标准版(Pharia-1-LLM-7B-control)和“对齐”版(Pharia-1-LLM-7B-control-aligned)。其中,“对齐”版模型经过了进一步的训练,目的是降低模型输出中的有害内容和偏见,从而提高模型的安全性和可靠性。

这两个模型都在多语言基础语料库上训练,并针对德语、法语和西班牙语进行了文化和语言优化,能提供简明扼要、长度可控的回答。该公司在官网上发布了模型在AlpacaEval(由来自斯坦福的团队开发的大语言模型评测系统)上的评测结果:

标准版Pharia在德语、法语和西班牙语上的表现和法国的模型Mistral、美国的模型Llama相差不大,但在英语上的表现则不如两者。“对齐“版Pharia则大体上比标准版Pharia表现略差一点。

德国OpenAI加入开源大战!发布欧洲纯血版模型,曾获博世和惠普投资

▲Pharia与Mistral、Llama的分数比较。其中,WR指胜率,LC指长度控制胜率(即较短的完成结果优先于较长的)。(图源:Aleph Alpha发布在Hugging Face上的Model card)

据Aleph Alpha官网介绍,模型的训练数据经过严格筛选,确保符合欧盟及相关国家法规中的版权和数据隐私法律。相比之下,许多大语言模型则依赖于大量网络抓取的数据。除了版权和隐私问题之外,网络抓取的数据还可能包含错误、过时或不准确的信息,包含偏见和歧视,甚至可能含有对安全造成威胁的恶意内容。

该公司还开源了其训练代码库“Scaling”,这不仅让研究人员能够使用模型,还让他们能够理解并改进模型的训练过程本身。

此外,该模型引入了创新的技术,使用了一种称为“分组查询注意力”(Group Query Attention,GQA)的技术。Aleph Alpha声称这提高了推理速度,且几乎没有牺牲质量。模型还采用了“旋转式位置编码”(Rotary Position Embedding,RoPE)的方法,使模型能够更好地理解句子中单词的相对位置。

二、注重模型合规性的欧洲AI:可审计模型在受监管行业中或有独特优势

随着AI技术的飞速发展,其在金融、医疗等高度受监管行业中的应用日益增多。这些行业对AI系统的透明度和问责性有着严格要求。欧盟即将实施的AI法案进一步强调了这些要求,预计将于2026年生效。

在这样的背景下,Aleph Alpha的模型发布策略与欧盟AI法案的监管方向保持一致,显示出该公司对监管适应性的高度重视。通过开源模型,Aleph Alpha将自己定位为符合欧盟标准的AI开发先锋。这一开源策略有利于应对日渐增长的行业监管压力和公众对AI伦理的要求。

企业客户越来越需要能够确保合规性和伦理性的AI解决方案。随着对AI解决方案在特定监管环境下审核和定制的需求增加,Aleph Alpha的开放方法使其在这些市场中具有潜在的竞争优势。特别是在监管合规性越来越重要的欧洲市场,Aleph Alpha的战略与“可解释AI”趋势一致,可能为企业AI解决方案中的透明度设定新的标准。

结语:AI霸权的竞赛中,开源模型该如何取胜?

通过倡导开放性、坚守合规性以及不断推动技术创新,Aleph Alpha正在挑战目前由科技巨头主导的封闭和不透明的AI开发模式。该公司开放了Pharia模型及其训练代码,这一行动有助于缓解公众对于AI系统”黑箱”特性的担忧,增强对AI技术的信任,这种透明度对于建立公众信任至关重要。

然而,从长远来看,这种开源方法是否能够与科技巨头形成有效竞争,仍然有待观察。虽然开放性有助于激发创新并吸引开发者社区,但它也需要大量的资源来持续推动并围绕这些模型构建一个繁荣的生态系统。Aleph Alpha需要在促进社区参与和实现战略发展之间找到合适的平衡点,以保持在迅速演变的AI行业中的竞争力。

来源:VentureBeat、Aleph Alpha官网、Hugging Face

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-08-28 12:45:03

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

法德正上演AI“吸金大战”,争夺“欧洲版OpenAI”
...大咖云集,但投资方主要来自于德国本土。领投方包括:博世(Bosch)的风险投资部门、零售巨头施瓦茨集团(Schwarz Group)以及德国人工智能科技园区(Ipai)
2023-12-12 15:17:00
奔驰、博世发声,德媒痛批“法国人想削弱德国高端品牌”
...业界纷纷预警,提醒欧盟此举只会“玩火自焚”。奔驰、博世等德企也相继发声,称“贸易保护主义”和“关税战”的结果只会是双输。同时,多家德媒将矛头指向法国。其中,《时代周报》援引消
2023-09-15 17:20:00
台积电欧洲首厂落定:博世英飞凌恩智浦各持股10%,投资超百亿欧元,4年后投产
...批准在德国德勒斯登投资半导体工厂的计划。台积电将与博世(Bosch)、英飞凌(Infineon)和恩智浦(NXP)共同成立合资公司
2023-08-09 11:22:00
华为猛攻,全球最大汽车供应商撑不住了!裁员上万人
...件纷纷进行大裁员。就连全球最大的汽车供应商——德国博世都撑不住了,利润率下滑,不到一年时间先后裁员三次,合计裁员上万人。中国汽车工业的机会来了,弯道超车的机遇到了。1. 一年
2024-11-16 09:14:00
放弃激光雷达后:全球第一汽车零部件供营商博世败退电机
...光雷达,今年又败退电机。全球第一Tier 1怎么了?最近,博世官方透露,正考虑关闭一家在德国的电机工厂,并可能会进一步裁员。此时距离博世宣布放弃激光雷达,不过刚过去一年。无独
2024-10-06 13:38:00
跨国汽车零部件巨头都扛不住了!继博世后 法雷奥宣布裁员1000人
...息,欧洲跨国零部件巨头公司近期纷纷宣布裁员降本,继博世后,法雷奥也宣布了裁员计划。据报道,法国汽车零件供应商法雷奥11月28日证实,公司将在法国、波兰、德国和捷克等欧洲多地裁
2024-11-29 11:33:00
全球第一汽车零部件供应商博世血裁7000人
博世血裁7000人,只因完不成年初KPI。就离谱,智能车比智能机上市更快、更多的今天,全球第一Tier 1却大规模裁员了。短短1年不到,这已经是博世第4次计划裁员了。而几乎就在博
2024-11-06 14:40:00
汽车零部件巨头大裁员:电动化转型下打响生存之战,谁能成功逆袭?
...汽车零部件巨头的裁员计划引发行业广泛关注。据了解,博世计划裁减1200个软件类工作岗位,其中950个裁减名额在德国本土;采埃孚或于未来六年内在德国累计裁员1.2万人;法雷奥将
2024-01-26 10:04:00
汽车零部件供应商巨头博世将全球裁员5500人:超一半都在德国
...德国金属工业工会(IG Metall)声明称,汽车零部件供应商博世将在德国裁减与自动驾驶和汽车转向产品相关的岗位。博世发言人证实,该公司将在全球裁员5500人,其中包括德国裁
2024-11-23 07:57:00
更多关于科技的资讯: