• 我的订阅
  • 科技

rockaiyan架构大模型通过备案

类别:科技 发布时间:2024-12-04 16:32:00 来源:浅语科技

近日,上海岩芯数智人工智能科技有限公司(以下简称RockAI)的Yan架构大模型成功通过《生成式人工智能服务管理暂行办法》备案,这是国内首个非Transformer架构大模型通过备案。

rockaiyan架构大模型通过备案

Yan模型简介

Yan架构大模型是国内首个非Transformer架构、非Attention机制的大模型。传统的Transformer架构和Attention机制对算力要求较高,而Yan架构大模型以MCSD、类脑激活机制为基础原理,大幅提升模型性能与效率,以3B参数量可达到Llama38B的水平,还可在CPU上运行部署。MCSD架构具有快速训练、推理能力,实现更高效的特征提取,类脑激活机制则模拟大脑中的神经元激活模式,在计算时选择性激活部分参数,减少算力冗余,更高效地解决问题。Yan架构大模型在保证性能的同时,有效降低了对算力的依赖。这不仅有助于提高模型的运行效率,还能降低成本,为更多企业和开发者提供了触手可及的AI解决方案。

备案通过的价值

因此,Yan架构大模型通过备案对于RockAI以及行业发展均具有重要价值。

·为行业发展开辟新的技术路径

作为国内首个非Transformer架构、非Attention机制大模型完成网信办备案,为行业发展开辟了新的技术路径。

·证明非Transformer技术路线的潜力

证明在算力受限的情况下,非Transformer架构技术路线的可行性和潜力,从而能够鼓励更多企业探索多元化的技术发展方向。

·业内唯一一家同时拥有双机制模型

RockAI成为唯一一家非Attention机制大模型和Attention机制大模型均备案通过的厂商,彰显了其在AI技术研发方面的创新能力。

Yan落地情况

技术突破之外,商业落地层面Yan架构大模型也取得了显著成果。依托低算力要求、本地部署、无损运行等优势,RockAI已与机器人、无人机、手机、电脑等领域的设备厂商建立深度合作,并在上述领域落地多个项目。

RockAI在大模型领域以“群体智能”的理念构建通用人工智能技术,以“让世界上每一台设备拥有自己的智能”为使命,致力于打造群体智能单元大模型,实现AI普惠。Yan架构大模型的备案通过是RockAI践行使命的重要里程碑,未来,我们期待Yan架构大模型在更多设备单元部署应用,让群体智能引领走向通用人工智能,与合作伙伴一起,领先一步开拓更加广阔的市场空间。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2024-12-04 17:45:12

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

摆脱Transformer依赖?这家AI初创公司推出国内首个非Attention机制大模型
...former是当下爆火的GPT、LLAMA、PaLM等大模型普遍采用的基础架构,凭借强大的自然语言理解能力,Transformer在问世的短短几年内便取代了传统的RNN网络结构
2024-01-29 06:31:00
思必驰天琴语音助手全面接入DeepSeek:中枢大模型驱动车载交互持续进化
...缺的一部分。思必驰天琴语音助手 8.0凭借其卓越的技术架构,深度整合DeepSeek实现能力升级,更以“四大智能”技术底座赋能座舱的交互逻辑,使其在车载语音交互领域成为多模态
2025-03-03 17:09:00
被质疑、抄袭、魔改,非主流大模型的诞生之路
...虎嗅注:RWKV创始人彭博是今天故事的主人公,在Transformer架构大行其道的当下,他一个人花了三年时间构建了RWKV架构
2024-10-14 13:40:00
阳光保险谷伟:公司目标建设领先的混合式大模型平台和应用体系
...智能科技平台。在新定位之下,形成新突破、新能力、新架构和新机制。具体而言,前端形成三大智能化新突破;销售智能化上,重点建设寿险销售智能化和车险销售智能化,同时构建多渠道销售智
2023-11-20 23:09:00
非Transformer架构站起来了!首个纯无注意力大模型,超越Llama 3.1
Mamba 架构的大模型又一次向 Transformer 发起了挑战。Mamba 架构模型这次终于要「站」起来了?自 2023 年 12 月首次推出以来
2024-08-14 09:39:00
大模型还能怎么创新?复旦教授邱锡鹏:需在新的架构、多模态等方面多做研究
...学术论文,被引用1.5万余次。划重点:1.现在大模型整体架构比较雷同,要想做出创新,还需在新的架构、幻觉问题、多模态等方面多做研究。2.我本身就比较喜欢自由的研究氛围。复旦是
2023-09-28 12:01:00
Mamba再次挑战霸主Transformer!首个通用Mamba开源大模型一鸣惊人
【新智元导读】TII开源全球第一个通用的大型Mamba架构模型Falcon Mamba 7B,性能与Transformer架构模型相媲美
2024-08-14 09:43:00
AI芯片“顶流”齐聚深圳南山,逐鹿芯世界!
...逐鹿芯世界”为主题,设有7大板块,包括主论坛和AI芯片架构创新、AI大算力芯片和高能效AI芯片三大专场,以及首次增设的集成电路政策交流会、AI芯片分析师论坛、智算中心算力与网
2023-09-17 07:46:00
手机市场深陷泥沼,厂商如何破冰?
...颈不断,手机厂商该如何破冰,进入下一个增长期?潮汐架构,一份关键答案性能不再是手机的瓶颈,前几年手机厂商都选择了新的影像赛道,通过与传统相机企业的携手同行,让高端手机市场迎来
2024-01-09 10:18:00
更多关于科技的资讯: