• 我的订阅
  • 科技

mistralai公司推出mixtral8x22b开源模型

类别:科技 发布时间:2024-04-12 01:34:00 来源:浅语科技

4月11日消息,MistralAI公司近日推出了Mixtral8x22B开源模型,共有1760亿个参数,Context长度(上下文文本)为6.5万个token,可以通过Torrent下载。

mistralai公司推出mixtral8x22b开源模型

MistralAI公司自成立以来一直备受外界关注,“6人团队,7页PPT,8亿融资”不断缔造传奇,而且在得到微软的投资之后更是进入发展快车道。

该公司今天发布的Mixtral8x22B开源模型是个开源模型,官方目前放出了Torrent种子链接,文件大小为281GB。用户可以通过磁性链接直接下载,或者通过HuggingFace和PerplexityAILabs平台进行下载。IT之家附上相关截图如下:

mistralai公司推出mixtral8x22b开源模型

mistralai公司推出mixtral8x22b开源模型

Mixtral8x22B共有1760亿个参数,Context长度(上下文文本)为6.5万个token,不过为单一任务可以调用部分模型(440亿参数),因此使用起来更加灵活。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-04-12 09:45:13

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

英国ai初创公司wayve公布gaia-1最新进展
...个共享的表示形式,进而在模型中实现统一的时序对齐和上下文理解,这种编码方法,让模型能够更好地整合和理解不同类型的输入
2023-10-10 11:51:00
开源社区分水岭:Meta大模型Llama 3发布,参数最高或达4000亿
...ama 3已经开放了80亿(8B)和700亿(70B)两个小参数版本,上下文窗口为8k。Meta表示,通过使用更高质量的训练数据和指令微调
2024-04-19 15:58:00
amd推出10亿参数语言模型系列amdolmo
...next-tokenprediction)进行训练,这种架构在生成文本和理解上下文方面表现出色。与其他同类开源模型相比
2024-11-09 00:21:00
王小川新公司「百川智能」发布首个开源中英文大模型,开源免费可商用 | 最前线
...的的预训练模型也将开源模型窗口进行扩展,开放了4K的上下文窗口。当前,已有的开源模型窗口长度在2K以内——对一些长文本建模任务,以往模型的处理效果可能会有所制约。在需要引入外
2023-06-15 16:53:00
李开复AI公司首发大模型,阿里云领投 | 36氪独家
...言模型)和中文大模型榜单C-Eval排行榜已经爬升到1位。上下文窗口,意味着模型的“记忆力”。据介绍,Yi目前拥有200K上下文窗口,可处理约40万字的文本——这也是目前全球
2023-11-06 12:13:00
10分钟速成专家,「Kimi智能助手」正式支持200万上下文,对话窗口提升10倍 | 最前线
...正式宣布,旗下的Kimi智能助手,已支持200万字超长无损上下文,并于即日起开启产品内测。Kimi智能助手是月之暗面(Moonshot AI)基于自研千亿参数大模型打造的对话式 AI 助手产品
2024-03-21 12:36:00
必然的命运:AI大模型冲向“免费轮盘赌”
...开发者大会上推出了0.0035美元/千tokens的Gemini Pro1.5,并将上下文长度拓展至200万tokens
2024-05-24 13:40:00
infini-attention:谷歌大内存机制
谷歌大改Transformer,“无限”长度上下文来了。现在,1B大模型上下文长度可扩展到1M(100万token,大约相当于10部小说)
2024-04-14 02:57:00
国产大模型加速落地,争夺“中国版ChatGPT”心智定位
...答、对话、写作、翻译等功能,后者则可以完成处理200K上下文、多文档阅读理解,以及超长知识库构建等任务。 今年3月6日,零一万物官微宣布开源Yi-9B模型。据介绍,Yi-9
2024-05-07 18:33:00
更多关于科技的资讯:
摘要:在当前以知识经济和数字经济为主导的新经济时代背景下,人力资源作为核心生产要素,其管理范式正经历深刻变革。传统的人力资源管理方式难以充分适应动态市场环境与价值创造的新要求
2025-11-07 06:50:00
在信用卡业务转型的关键期,提升用户黏性、降低获客成本、增强市场竞争力,成为一项重要课题。积分作为引领服务升级的新潮流,对提升用户价值感与忠诚度
2025-11-07 07:54:00
全国高质量数据集和数据标注产业供需对接大会在宁举行达成合作90余项 累计交易金额超9亿元南报网讯(记者马道军)11月5日
2025-11-06 08:19:00
近日,浙江瑞安一口停产10多年的不锈钢锅,因为一则15秒的寻锅视频火了。这口锅,婆婆用完媳妇用,30多年过去,仍旧不锈不粘
2025-11-06 08:22:00
连登新品发布舞台 厦企闪耀进博会厦门以高水平开放实践对接全球机遇厦门网讯(厦门日报记者 沈彦彦)11月5日至10日,第八届中国国际进口博览会(以下简称“进博会”)在上海举办
2025-11-06 08:37:00
厦企竞逐XR大空间赛道 多个沉浸式消费项目落地运营
小朋友体验XR大空间。(受访企业 供图)厦门网讯(厦门日报记者 林露虹)开阔的场地内,一群头戴VR设备的体验者沉浸于虚拟世界
2025-11-06 08:37:00
希沃参与制定国标正式发布 助力移动学习终端技术规范化发展
近日,国家标准化管理委员会正式发布《信息技术学习、教育和培训移动学习终端功能要求》国家标准,将于明年5月正式实施。该国家标准由清华大学
2025-11-06 08:39:00
东南网11月6日讯(福建日报报业集团记者 潘园园 杨凌怡 通讯员 李蕴)新型电子元器件企业自动化车间内,机械臂精准抓取零件
2025-11-06 09:39:00
泰开柔性微电网技术入选省级目录 园区低碳有“可复制样本”
鲁网11月6日讯近日,山东省科技厅、省生态环境厅联合发布《2025年山东省绿色低碳技术成果目录》,共收录57项涵盖水治理
2025-11-06 11:04:00
在金融服务加速拥抱数字化、做好“数字金融”大文章的时代背景下,2024年9月,国务院印发的《关于加强监管防范风险推动保险业高质量发展的若干意见》(以下简称“新国十条”)明确提出“增强保险业可持续发展能力”“提高数智化水平
2025-11-06 11:17:00
中新经纬11月6日电 6日,中国支付清算协会官方微信发布关于加强“免密支付”业务安全管理的倡议。中国支付清算协会表示,随着移动支付技术的快速发展和广泛应用
2025-11-06 11:59:00
向暗“键”伤人亮“红灯”丨网事漫话
大河网迅 只是因发表不同观点,就被追着私信辱骂;分享生活日常,却遭陌生网友恶意P图嘲讽;甚至只是随手点赞,就被卷入群体谩骂的漩涡……这些让人窒息的“网暴侵扰”瞬间
2025-11-06 13:38:00
易路全球企业AI云端数字峰会Day1圆满落幕
聚焦AI认知进化,亮点一览11月5日下午,由易路主办的「人机重塑,共建XIN生态」全球企业AI云端数字峰会暨2025企业AI HR创新应用案例颁奖盛典
2025-11-06 14:12:00
在中科院软件所的实验室与重大工程一线,有这样一位执着探索的深耕者:他将前沿人工智能技术与基础软件研发深度融合,以“AI+软件工程”为钥匙
2025-11-06 14:42:00
路易达孚亮相第八届进博会,展示食品、饮品及动物营养新品
路易达孚集团(Louis Dreyfus Company 简称LDC )连续第八年参加中国国际进口博览会(以下简称"进博会")
2025-11-06 14:42:00