- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
mistralai公司推出mixtral8x22b开源模型
类别：科技 发布时间：2024-04-12 01:34:00 来源：浅语科技
4月11日消息，MistralAI公司近日推出了Mixtral8x22B开源模型，共有1760亿个参数，Context长度（上下文文本）为6.5万个token，可以通过Torrent下载。
MistralAI公司自成立以来一直备受外界关注，“6人团队，7页PPT，8亿融资”不断缔造传奇，而且在得到微软的投资之后更是进入发展快车道。
该公司今天发布的Mixtral8x22B开源模型是个开源模型，官方目前放出了Torrent种子链接，文件大小为281GB。用户可以通过磁性链接直接下载，或者通过HuggingFace和PerplexityAILabs平台进行下载。IT之家附上相关截图如下：
Mixtral8x22B共有1760亿个参数，Context长度（上下文文本）为6.5万个token，不过为单一任务可以调用部分模型（440亿参数），因此使用起来更加灵活。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-04-12 09:45:13
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于模型,公司,模型,上下文,参数,公司的资讯：
...个共享的表示形式，进而在模型中实现统一的时序对齐和上下文理解，这种编码方法，让模型能够更好地整合和理解不同类型的输入
2023-10-10 11:51:00
...ama 3已经开放了80亿（8B）和700亿（70B）两个小参数版本，上下文窗口为8k。Meta表示，通过使用更高质量的训练数据和指令微调
2024-04-19 15:58:00
...next-tokenprediction）进行训练，这种架构在生成文本和理解上下文方面表现出色。与其他同类开源模型相比
2024-11-09 00:21:00
...的的预训练模型也将开源模型窗口进行扩展，开放了4K的上下文窗口。当前，已有的开源模型窗口长度在2K以内——对一些长文本建模任务，以往模型的处理效果可能会有所制约。在需要引入外
2023-06-15 16:53:00
...言模型）和中文大模型榜单C-Eval排行榜已经爬升到1位。上下文窗口，意味着模型的“记忆力”。据介绍，Yi目前拥有200K上下文窗口，可处理约40万字的文本——这也是目前全球
2023-11-06 12:13:00
...正式宣布，旗下的Kimi智能助手，已支持200万字超长无损上下文，并于即日起开启产品内测。Kimi智能助手是月之暗面（Moonshot AI）基于自研千亿参数大模型打造的对话式 AI 助手产品
2024-03-21 12:36:00
...开发者大会上推出了0.0035美元/千tokens的Gemini Pro1.5，并将上下文长度拓展至200万tokens
2024-05-24 13:40:00
谷歌大改Transformer，“无限”长度上下文来了。现在，1B大模型上下文长度可扩展到1M（100万token，大约相当于10部小说）
2024-04-14 02:57:00
...答、对话、写作、翻译等功能，后者则可以完成处理200K上下文、多文档阅读理解，以及超长知识库构建等任务。
今年3月6日，零一万物官微宣布开源Yi-9B模型。据介绍，Yi-9
2024-05-07 18:33:00
更多关于科技的资讯：
京津冀共推新能源汽车、低空装备产业协同发展提高科技成果转化和产业化水平河北日报讯（记者米彦泽）8月12日，京津冀新能源和智能网联汽车
2025-08-19 08:31:00
大众网记者 孙淑娟 东营报道世界造纸，中国领航；中国造纸，广饶担当。在黄河三角洲的沃土上，广饶县依托深厚的产业积淀，崛起为全国举足轻重的高端造纸产业基地
2025-08-19 08:51:00
最近，一个词在网上悄然走红 ——“经济上行的美”。当全球经济增速放缓，这个词的流行，本质上是大众借由对 “黄金年代” 的集体记忆
2025-08-19 09:03:00
在日新月异的今天，科技创新已成为推动各行各业发展的关键力量。陶瓷行业，这一承载着千年文明与历史沉淀的传统产业，在新时代的浪潮中
2025-08-19 09:51:00
为提升从业人员的专业素养与服务水平，中国人寿深州支公司开展销售人员培训活动，此次培训特邀公司经验丰富的业务精英与兄弟县市优秀讲师
2025-08-19 09:58:00
为深化全员对代理保险产品的认知，提升精准营销能力，加速拓展市场份额，8月8日下午，滦州农商银行召开2025年下半年代理保险业务专题培训会
2025-08-19 10:04:00
随着供需两端提速，以及AI的全面入局，一个小游戏崭新的增长时代正在展开。2025 ChinaJoy期间，由中国音像与数字出版协会和上海市虹口区人民政府联合主办的「2025 CIGDC 中国国际游戏开发者大会」在沪举行
2025-08-19 10:52:00
近日，教育科技领军品牌小猿学练机在北京举行“小猿学练机×海尼曼”战略合作发布会，宣布学习平板领域独家引进全球知名的 “海尼曼 FPC ”分级阅读体系
2025-08-19 10:52:00
2025年8月8日至12日，2025世界机器人大会（WRC 2025）在北京经济技术开发区北人亦创国际会展中心举行。围绕 "让机器人更智慧
2025-08-19 10:52:00
-以美食为桥深化中韩文化交流-2025年8月9日，内地人气歌手姚琛“万里挑一 特别派对”在北京市昌平区丘比特露营营地火热开唱
2025-08-19 10:52:00
近年来，伴随着出海浪潮不断升温，中国商品正加速迈入高质量、品牌化发展的新阶段。面对出海新趋势，近日，由中国（宁波）跨境电子商务综合试验区
2025-08-19 10:59:00
本报讯 （记者 解 磊）近日，记者从中国塑料加工工业协会（以下简称“中国塑协”）获悉，干法锂电池隔膜骨干生产企业负责人闭门座谈会在深圳召开
2025-08-19 11:03:00
在全球贸易格局深刻变革的浪潮中，跨境电商正以惊人的活力重塑国际贸易链路。据权威机构预测，2025年全球电商渗透率将突破25%
2025-08-19 11:16:00
伴随着叉车和吊车有节奏的装车声，以及人机协同作业的高效配合，最后一批Φ2.7mm规格、上锌量为60g/㎡的定制化普锌镀锌材料向内蒙古某终端新客户发出
2025-08-19 11:28:00