• 我的订阅
  • 财经

微软被曝正自研AI大模型:5000亿个参数,与谷歌和OpenAI竞争

类别:财经 发布时间:2024-05-07 14:33:00 来源:澎湃新闻

微软被曝正自研AI大模型:5000亿个参数,与谷歌和OpenAI竞争

科技巨头微软或正在研发参数达5000亿的全新AI(人工智能)大模型,将正面叫板谷歌和OpenAI。

当地时间5月6日,据外媒报道,微软正在研发一款名为MAI-1的最新AI大模型,其规模远超出微软此前推出的一些开源模型,在性能上或能与谷歌的Gemini 1.5、Anthropic的Claude 3和OpenAI的GPT-4等知名大模型相匹敌。微软或将在5月21日开始举办的Build开发者大会上演示这款新模型。

据报道,MAI-1的开发由前谷歌AI领导人、曾担任AI初创公司Inflection首席执行官的穆斯塔法·苏莱曼(Mustafa Suleyman)领导。就在今年3月,刚刚领投完Infection的最新一轮融资,微软便从Infection挖走了包括苏莱曼在内的两位联合创始人以及部分员工。有知情人士透露,微软为此向Infection支付了超过6.5亿美元。

尽管MAI-1可能借鉴了Inflection旗下模型的部分技术,有微软员工表示,MAI-1是一款全新的大语言模型,拥有约5000亿个参数,远超微软此前训练的任何开源模型。不到一个月前,微软刚推出了一款名为Phi-3的小型AI模型,其中Phi-3 mini被优化至可部署在手机上,拥有38亿参数,经过3.3万亿token的训练,微软称其性能与GPT-3.5等模型相当。

相比之下,MAI-1的规模要大得多,也需要更多的算力投入和训练数据。为了训练该模型,微软已经配置了大量包含英伟达GPU的服务器集群,并从各类来源收集训练数据,包括由OpenAI的GPT-4生成的文本和公共互联网数据。这或将使MAI-1与OpenAI的GPT-4处于相似的水平,据传后者拥有超过1万亿个参数。

Phi系列模型和MAI-1的研发体现出微软或在AI领域采取了双重策略,一边为移动设备开发小型本地模型,一边开发由云端支持的更大规模的模型。不过,即使在微软内部,MAI-1的确切用途也尚未得到确认。

更重要的是,MAI-1体现出微软并不希望在AI领域完全依附于合作伙伴OpenAI的技术。来自OpenAI的技术正在驱动微软的各类生成式AI功能,包括集成在Windows中的聊天机器人。此前,有来自微软AI平台团队的员工抱怨称,公司的AI战略过于关注与OpenAI的合作关系,使得微软对AI原创研究的预算减少。

6日当天,微软首席技术官凯文·斯科特(Kevin Scott)在领英上发帖,间接回应了关于MAI-1的报道。他表示,OpenAI使用微软构建的超级计算机来训练AI模型,而微软的研究部门和产品团队也在构建AI模型:“AI模型几乎出现在我们的每一项产品、服务和运营流程中,制作和运营它们的团队有时需要做一些自定义工作,无论是从头开始训练一个模型,还是微调别人构建的模型。未来将会有更多这样的情况,其中一些模型的名字包括图灵(Turing)和MAI。”

为了实现在AI方面的突破,微软也在大力囤积算力资源。4月初,有报道称微软计划到今年年底前囤积180万块AI芯片,意味着公司希望在2024年内将所持有的GPU数量增加两倍。据知情人士透露,从2024财年到2027财年(到2027年6月30日结束),微软预计将在GPU和数据中心上花费约1000亿美元。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-05-07 18:45:04

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

据悉,OpenAI正在开发一款新的开源模型,以对抗微软和Meta合作开发的开源模型Llama2。这款新模型的内部代号为“G3PO”
2023-07-27 18:38:00
钮祜禄·Meta:发布最强开源新模型Llama 2,拉拢微软做盟友 | 最前线
...究用途,如今的Llama 2会催生新一波的AI大模型创业热潮。微软表示,Llama 2已经针对 Windows进行优化
2023-07-19 18:04:00
微软发布phi-1.5全新预训语言模型
9月12日消息,微软研究院昨日发布了名为phi-1.5的全新预训练语言模型,共有13亿个参数,适用于QA问答、聊天格式和代码等等场景
2023-09-13 04:52:00
微软打造 13 亿参数小型 LLM AI 模型
...积实际上效果并不见得更好,更多要看训练数据的质量,微软日前最近发布了一款13亿参数的语言模型phi-1,采用“教科书等级”的高品质资料集训练而成
2023-06-27 22:27:00
Pika爆火,但AI视频还没到「GPT时刻」;首个GPT-4驱动的人形机器人;微软小模型击败大模型丨AI新零售早报
...转换为机器人动作。(来源:“量子位”微信公众号)《微软小模型击败大模型:27亿参数,手机就能跑》微软发布了一个仅有27亿参数的小型模型Phi-2,它在多数常识推理、语言理解、
2023-12-14 09:34:00
微软连发3款Phi-3.5模型:128K上下文,首用MoE架构,部分性能超GPT-4o mini
智东西8月21日消息,今天,微软一口气甩出3款超强轻量级模型!微软本次发布的轻量级模型系列名为Phi-3.5,适合在内存和算力受限的环境中运行
2024-08-22 09:49:00
微软发布旗下最小语言模型phi-2
11月17日消息,微软Ignite2023大会已拉开帷幕,微软在本次活动中发布了旗下最小的语言模型Phi-2,共有27亿参数
2023-11-17 14:00:00
微软推出14b参数“最先进”小型语言模型
12月13日消息,微软今天宣布推出14B参数“最先进”小型语言模型(SLM)Phi-4,除了传统的语言处理外,它还擅长数学等领域的复杂推理
2024-12-14 00:08:00
微软:从“软件老大”到“AI帝国”
从2009开始开发AI模型,到2019年投资OpenAI,微软正在一步一步成为AI时代的庞然大物。对于微软及其生态系统而言
2023-11-21 10:45:00
更多关于财经的资讯:
捂紧“钱袋子” 备足“新票子”-毕节农商银行春节便民服务暖街巷
年味渐浓,集镇喧腾。一边是电信诈骗岁末抬头,一边是商户找零“一票难求”——毕节农商银行杨家湾支行瞄准节前两道民生考题,将柜台搬进商铺
2026-02-14 22:21:00
工行遵义凤冈支行圆满举办“马蹄踏春·花纳新福”新春答谢会活动
岁序更迭,华章日新。当冬日的寒意渐褪,春日的蹄声便踏着欢快的节奏而来。2026年2月4日,工行遵义凤冈支行怀揣最真挚的感激
2026-02-14 22:21:00
“太感谢你们了,孩子的奶粉和新年衣服终于有着落了!”客户紧紧握住银行工作人员的手,看到银行卡成功由二类卡升级为一类卡,家住榕江县山村的小吴激动不已
2026-02-14 22:21:00
多彩贵州网讯(记者 金星)为深入贯彻落实中央金融工作会议精神,紧密围绕做好科技金融、绿色金融、普惠金融、养老金融、数字金融五篇大文章的战略部署
2026-02-14 22:21:00
威宁农信联社龙场信用社:与返乡人叙乡情、问需求、送服务
2月11日,威宁农信联社龙场信用社走进龙场镇宣峰村村公所,召开了一场别开生面的“外出就业创业返乡人员座谈会”。来自辖区内的30余名返乡务工创业代表
2026-02-14 22:21:00
近日,在人民银行黔南州分行的统一组织下,贵州银行都匀剑江支行积极参与由市人力资源和社会保障局主办的“春风送岗”专项活动
2026-02-14 22:21:00
一张张零散纸币,一枚枚叮当作响的硬币,看似微不足道,却承载着商户的日常经营与老百姓的生活便利。近日,工行兴义兴仁支行凭借一项基础却暖心的服务——零钱兑换
2026-02-14 22:21:00
银企联动,反假同行——民生银行遵义红花岗支行走进企业开展反假货币宣传
多彩贵州网讯(记者 金星)岁末年初,年味渐浓。在贵州某企业的年终游园会上,一场别开生面的“金融年货”宣传活动悄然展开。民生银行遵义红花岗支行以“反假货币
2026-02-14 22:21:00
多彩贵州网讯(记者 金星)在国家大力推进新型工业化与制造业升级的战略背景下,如何将丰富的矿产资源优势转化为经济优势和发展优势
2026-02-14 22:21:00
毕节农商银行为返乡人员提供“接站暖心服务”
岁末返乡季,温情暖人心。为积极践行社会责任,以实际行动温暖外出就业创业返乡人员,2月12日,毕节农商银行联合毕节市人力资源和社会保障局在毕节高铁站开展返乡外出就业创业人员接站活动
2026-02-14 22:22:00
工行毕节大方支行:金融时雨润春耕,沃野产业绘新篇
贵州省毕节市大方县,山川秀丽,全县耕地面积达百万亩,森林覆盖率超过46%,独特的立体气候和肥沃的土壤孕育了丰富多样的农产品资源
2026-02-14 22:22:00
工行毕节赫章支行:金融活水添年味,政银联动促消费
为深入践行金融工作的政治性、人民性,积极响应地方政府促消费、惠民生工作部署,工行毕节赫章支行与赫章县商务局紧密协作,作为县域指定金融服务机构
2026-02-14 22:22:00
近日,工行兴义坪东支行凭借细致周到的服务,成功为一名老年客户解决了银行卡取款难题,并贴心指导其掌握便捷的移动金融服务,赢得了客户的高度赞誉
2026-02-14 22:22:00
工行遵义仁怀支行:去匠心筑家的地方
在仁怀市区,某家居定制门店内板材与五金件整齐陈列,空气中有新切割木材的淡香。这里不仅是居所空间的延伸,更是城市生活品质的缩影
2026-02-14 22:22:00
2026年2月3日清晨,一位老人扶着门框,缓缓挪进工行毕节清毕路支行。他没有取号,也未咨询业务,只是静静地坐在客户经理丁越办公室门外
2026-02-14 22:22:00