• 我的订阅
  • 科技

面壁智能的端侧大模型面壁MiniCPM正式亮相

类别:科技 发布时间:2024-02-01 21:36:00 来源:浅语科技

2023年科技圈的年度热词无疑有大模型一席之地,到了2024年,它的热度依然没有衰减。2月1日,面壁智能的端侧大模型面壁MiniCPM正式亮相。

面壁智能的端侧大模型面壁MiniCPM正式亮相

半年来,端侧模型发展迅速,面壁智能在这个时间节点推出面壁MiniCPM端侧大模型,究竟有什么优势呢?答案是,性能方面的绝对领先。回顾2023年,Mistral-7B模型在行业里面获得了很多的赞誉,甚至被称为欧洲的OpenAI。而面壁MiniCPM,凭借2B规模IT精选数据,在多项主流评测榜单中,中英文平均成绩均超越Mistral-7B。此外,面壁MiniCPM的性能还与微软的Phi-2、GPT-4等大模型比肩,甚至在某些方面有所超越。尤其在20B、40B、54B规模的模型中,面壁MiniCPM的表现也相当出色,英文榜单的平均分显著领先。

面壁智能的端侧大模型面壁MiniCPM正式亮相

面壁MiniCPM的强大性能,使其在用户中备受好评。据官方数据显示,在MiniCPM榜单上,该模型取得了优异的成绩,并收获了众多用户正向评价。这得益于面壁MiniCPM强大的底层支撑,先是算力方面,凭借全流程高效infra10倍推理加速,能够将成本降低90%;其次在算法方面,面壁模型通过高效模型训练配置实现模型能力快速形成;数据处理方面,凭借现代化数据工厂形成从数据治理到多维评测的闭环牵引模型版本快速迭代。

为了方便用户更低成本的使用,面壁MiniCPM还发布了端侧版本名为MiniCPM-V,根据官方介绍,其在手机端的推理速度每秒大概7个Tokens。此外,因为其拥有模型小的优势,用户只需要1台机器或者一张显卡就能持续训练其能力。对此面壁智能也在发布会上进行了展示,不同终端设备的吞吐量各有不同,也正是壁MiniCPM的出现,让用户那怕是一部手机,一个消费级显卡也能在端侧流畅跑通大模型。为了更真实的展示面壁MiniCPM在端侧的处理能力,发布现场,面壁智能联合创始人、CEO李大海还使用一台OPPOFindN3现场演示了端侧(飞行模式无网络)运行效果,文本处理速度很快,吞吐(tokens/s)达到了6.5。

面壁智能的端侧大模型面壁MiniCPM正式亮相

此外,为了推动大模型技术走向普及,面壁智能在发布会上宣布,将面壁首款大模型ChiensePre-trainedModel首个10亿级别中文开源模型。此外,面壁智能还将调试过程中的实验结果和数据配比公式公开,以促进行业共同发展。

面壁智能的端侧大模型面壁MiniCPM正式亮相

发布会最后,面壁智能为广大用户准备了一个新年彩蛋,推出了一款名为“心间”的APP。用户可以申请试用,并体验内置的“磕CP”功能,体验由大模型推理创作的独特CP。这款APP不仅丰富了用户体验,也进一步展示了面壁MiniCPM在大模型领域的强大实力。

在人工智能技术日新月异的当下,大模型技术正在改变我们的生活,面壁MiniCPM的亮相,无疑为我国人工智能发展注入了新的活力。随着技术的不断进步,我们有理由相信,大模型技术将在未来发挥更大的作用,为广大用户带来更多便捷与惊喜。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-02-02 06:45:13

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

智能客服大模型的发展趋势
...科技的快速发展推动了智能客服领域的突破。智能客服大模型正是其中的一项重要创新。它如何帮助企业提高客户服务质量,提升用户体验呢?本文将为您详细介绍智能客服大模型,以及它在当前社
2024-06-16 10:24:00
用户兴趣和语义理解,让人工智能大模型为你的数字化营销业务找到最佳召回
召回模型是数字化营销业务中的核心环节,它决定了用户能否看到与自己相关的内容,从而影响用户的满意度和转化率。传统的召回模型通常基于用户的行为数据和内容的特征数据,通过一些简单的规则
2024-05-30 17:18:00
让“私人助理”可随身携带
本文转自:科技日报把大模型装进手机让“私人助理”可随身携带图为一位女士正在使用手机查看数据。当大模型被装进手机后,人类与手机的交互方式或将发生改变。【AI世界】◎实习记者 吴叶凡
2024-01-08 02:05:00
车企AI大模型陆续上车,我们离车机功能要付费不远了?
...能化中,很多人都在关注智能驾驶,而忽略了其中的AI大模型技术。仅2023年一年,AI大模型技术迎来质的飞跃,越来越多的车企相继跟进,并将其快速“上车”。AI大模型不仅能为智能
2024-02-19 18:34:00
360智能门锁斩获“葵花奖”,引领智能家居安全新纪元
...,更是对其不断追求技术革新和用户体验的高度评价。大模型赋能,引领体验新思路360智能门锁凭借其在智能家居领域的持续创新荣膺“2024智能锁行业创新竞争力品牌”,360智能门锁
2024-07-11 10:45:00
吉利星睿AI大模型正式发布 引领中国汽车进入全场景AI时代
...车集团CEO淦家阅在吉利银河E8上市发布会上,发布了AI大模型的相关能力及多款应用后,1月11日,吉利正式发布全球首个汽车行业全栈自研全场景AI大模型——吉利星睿AI大模型。
2024-01-11 11:18:00
模型即服务,卓世科技MaaS平台 2.0 正式上线
引言:MaaS(ModelasaService,模型即服务)是一种将人工智能算法模型及其相关能力封装成服务,以降低人工智能技术使用门槛
2024-08-07 09:45:00
支持企业快速应用智能体 京东云发布言犀智能体平台
...Agent 开发平台——言犀智能体平台。平台已接入数十个大模型,无论用户是否有编程基础,从解决简单的问答到处理复杂逻辑的业务问题,都可以低成本快速搭建基于AI模型的各类智能体
2024-07-30 17:55:00
苹果的人工智能为何与众不同?高管这样说
...大超级计算机,以开发更为复杂且耗电量更高的人工智能模型。而用户通常需要通过互联网与同样强大的服务器进行交互,才能访问这些人工智能软件。苹果对人工智能的愿景并非局限于构建庞大的
2024-06-13 09:27:00
更多关于科技的资讯: