• 我的订阅
  • 科技

mistralai公司推出mixtral8x22b开源模型

类别:科技 发布时间:2024-04-12 01:34:00 来源:浅语科技

4月11日消息,MistralAI公司近日推出了Mixtral8x22B开源模型,共有1760亿个参数,Context长度(上下文文本)为6.5万个token,可以通过Torrent下载。

mistralai公司推出mixtral8x22b开源模型

MistralAI公司自成立以来一直备受外界关注,“6人团队,7页PPT,8亿融资”不断缔造传奇,而且在得到微软的投资之后更是进入发展快车道。

该公司今天发布的Mixtral8x22B开源模型是个开源模型,官方目前放出了Torrent种子链接,文件大小为281GB。用户可以通过磁性链接直接下载,或者通过HuggingFace和PerplexityAILabs平台进行下载。IT之家附上相关截图如下:

mistralai公司推出mixtral8x22b开源模型

mistralai公司推出mixtral8x22b开源模型

Mixtral8x22B共有1760亿个参数,Context长度(上下文文本)为6.5万个token,不过为单一任务可以调用部分模型(440亿参数),因此使用起来更加灵活。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-04-12 09:45:13

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

英国ai初创公司wayve公布gaia-1最新进展
...个共享的表示形式,进而在模型中实现统一的时序对齐和上下文理解,这种编码方法,让模型能够更好地整合和理解不同类型的输入
2023-10-10 11:51:00
开源社区分水岭:Meta大模型Llama 3发布,参数最高或达4000亿
...ama 3已经开放了80亿(8B)和700亿(70B)两个小参数版本,上下文窗口为8k。Meta表示,通过使用更高质量的训练数据和指令微调
2024-04-19 15:58:00
amd推出10亿参数语言模型系列amdolmo
...next-tokenprediction)进行训练,这种架构在生成文本和理解上下文方面表现出色。与其他同类开源模型相比
2024-11-09 00:21:00
王小川新公司「百川智能」发布首个开源中英文大模型,开源免费可商用 | 最前线
...的的预训练模型也将开源模型窗口进行扩展,开放了4K的上下文窗口。当前,已有的开源模型窗口长度在2K以内——对一些长文本建模任务,以往模型的处理效果可能会有所制约。在需要引入外
2023-06-15 16:53:00
李开复AI公司首发大模型,阿里云领投 | 36氪独家
...言模型)和中文大模型榜单C-Eval排行榜已经爬升到1位。上下文窗口,意味着模型的“记忆力”。据介绍,Yi目前拥有200K上下文窗口,可处理约40万字的文本——这也是目前全球
2023-11-06 12:13:00
10分钟速成专家,「Kimi智能助手」正式支持200万上下文,对话窗口提升10倍 | 最前线
...正式宣布,旗下的Kimi智能助手,已支持200万字超长无损上下文,并于即日起开启产品内测。Kimi智能助手是月之暗面(Moonshot AI)基于自研千亿参数大模型打造的对话式 AI 助手产品
2024-03-21 12:36:00
必然的命运:AI大模型冲向“免费轮盘赌”
...开发者大会上推出了0.0035美元/千tokens的Gemini Pro1.5,并将上下文长度拓展至200万tokens
2024-05-24 13:40:00
infini-attention:谷歌大内存机制
谷歌大改Transformer,“无限”长度上下文来了。现在,1B大模型上下文长度可扩展到1M(100万token,大约相当于10部小说)
2024-04-14 02:57:00
国产大模型加速落地,争夺“中国版ChatGPT”心智定位
...答、对话、写作、翻译等功能,后者则可以完成处理200K上下文、多文档阅读理解,以及超长知识库构建等任务。 今年3月6日,零一万物官微宣布开源Yi-9B模型。据介绍,Yi-9
2024-05-07 18:33:00
更多关于科技的资讯:
承包你的厨房 这就是河南“食”力丨UP!豫新潮③
大河网讯 在中国食品产业的版图上,河南以其令人瞩目的“硬核”数据占据着举足轻重的地位,这里生产了全国二分之一的火腿肠、三分之一的方便面
2026-01-14 17:06:00
荆楚网(湖北日报网)讯(记者齐一璇 通讯员袁嘉晨)近日,华中农业大学信息学院科研成果再传捷报,两项重要研究成果分别斩获省级
2026-01-14 14:29:00
CIBF2026:以自律、创新与协同,引领动力储能电池行业高质量发展
当前,中国动力储能电池行业在展现强劲增长活力的同时,也正在经历规模扩张与深度调整并行的关键阶段。一方面,产业数据彰显活力
2026-01-14 15:23:00
摘要:前瞻性、广覆盖、强协同1月8日,北京智谱华章科技股份有限公司(以下简称"智谱")成功登陆港交所,成为"大模型第一股"
2026-01-14 15:23:00
大爱无疆 行者致远 | 大行与爱地雅携手开启绿色出行新篇章
元月初始,万象更新,一场意义非凡的战略合作签约仪式在大行总部隆重举行,大行与爱地雅(东莞)自行车有限公司(下称爱地雅)正式签订战略合作协议
2026-01-14 15:23:00
河北新闻网讯(梁彬)为抢抓2026年首季业务攻坚关键期,提升团队实战营销能力,1月10日至11日,唐山农商银行古冶支行举办了为期两天的实践营销能力提升专题培训
2026-01-14 16:02:00
指尖筑梦 创意飞扬---临沂北园路小学3DOne设计社团阶段性成果展
鲁网1月14日讯近日,临沂北园路小学3DOne设计社团阶段性成果展示顺利开展。自社团成立以来,一群充满好奇心与创造力的小社员们
2026-01-14 11:17:00
容声入选2025年度中国消费名品,以技术创新引领健康储鲜升级
鲁网1月14日讯日前,工业和信息化部正式公布了2025年度中国消费名品名单,深耕冰箱领域四十余年的容声冰箱成功入选,这份荣誉不仅是对其产品品质与品牌实力的官方认证
2026-01-14 11:53:00
余干三小开展AI赋能教学技能培训
数字化时代,教育正从“经验驱动”迈向“数据驱动”。为助力教师拥抱技术、创新课堂,1月12日,余干县第三小学开启了一场科技与教育深度融合的培训之旅
2026-01-14 11:29:00
从“装满”到“装对” 让“上下楼”变“上下游”杭州日报讯 近日,由上城资本集团产业基金战略投资的北京智谱华章科技股份有限公司正式在香港联合交易所挂牌上市
2026-01-14 08:22:00
新闻纵深丨绿色“充电宝”上线,“捕电之网”更加坚韧
河北南网容量最大的电网侧独立储能项目并网投运绿色“充电宝”上线,“捕电之网”更加坚韧阅读提示2025年12月15日,位于邢台市信都区的龙岗储能电站并网投运
2026-01-14 08:35:00
京东联合中纺协制定软壳冲锋衣团体标准
中国消费者报北京讯(记者桑雪骐)日前,ISPO Beijing 2026亚洲运动用品与时尚展在北京举行。展会期间,软壳冲锋衣团体标准制定工作正式启动
2026-01-14 09:53:00
厦门网讯(厦门日报记者 林露虹)1月12日,天猫发布《2025年度新品牌发展报告》,报告显示,厦门入围“2025年天猫十大创牌之城”
2026-01-14 08:54:00
一线见闻|异构机器人雄安进“课堂”
1月6日,在中国雄安集团数字城市科技有限公司的具身智能训练场内,数据采集员正对异构机器人进行具身智能训练。 河北日报记者 刘光昱摄“小雄
2026-01-14 08:46:00
今年伊始,“车厘子价格暴跌”登上热搜。13日,记者走访线下商超发现,今年的车厘子价格确实更加“亲民”,较刚上市的时候,有的降价幅度接近40%
2026-01-14 09:23:00