• 我的订阅
  • 头条热搜
谷歌推出datagemma开放权重语言模型新版本
...ons中的真实世界统计数据,推出了一种名为DataGemma的开放权重语言模型新版本。这项研究旨在解决大语言模型(LLMs)处理数值或统计数据时面临的幻觉难题,精确性至关重要。DataGemma通过两种关键技术:检索交错生成(RIG)和...……更多
马斯克承诺开源版大模型 来了!Grok-1:3140亿参数迄今最大,权重架构全开放
...40 亿参数的混合专家(MoE)模型‘Grok-1’,以及该模型的权重和网络架构。这也使得Grok-1成为当前参数量最大的开源大语言模型。封面图根据 Grok 提示使用 Midjourney 生成的:神经网络的 3D 插图,具有透明节点和发光连接,以不...……更多
权威AI开源标准1.0版发布:Llama也不算开源
...创建; 用于构建和运行 AI 的完整代码; 训练中的设置和权重,帮助 AI 产生相应的结果。这一定义直接直击 Meta 推动的 Llama 大模型。虽然在生成式 AI 领域里,Llama 一直被广泛宣传为最大的开源 AI 模型,Llama 的使用条款中支持...……更多
开源狂潮让巨头惨败,谷歌内部文件曝光
...们真的有重大的架构改进,以至于无法直接重新使用模型权重,那么我们应该去投资更积极的蒸馏形式,来尽可能多地保留上一代模型的功能。如果我们能够在小模型上快速迭代,那么从长远来看,大模型并不是强到无所不能LoR...……更多
中国最大开源MoE模型,255B参数无条件免费商用,元象发布
...计算任务,从而减少通信等待时间。(2)效果方面专家权重:MoE 中的专家总数为 N ,每个 token 会选择 topK 个专家参与后续的计算,由于专家容量的限制,每个 token 实际选择到的专家数为 M,M<=K根据对比实验的效果,我们选...……更多
纽约大学教授 Nature 发文:为了科学界的未来
...之下,使用开源LLM,研究人员可以查看模型的内部架构、权重,了解模型是如何运行的,定制代码并指出错误,这些细节包括模型的可调参数和训练模型的数据,社区的参与和监督都有助于让这种模式长期保持稳健。在科学研究...……更多
...B版本开源了对话模型TeleChat-7B-bot,以及其huggingface格式的权重文件。此外,还开源了7B模型的int8和int4量化版本。在模型开发上,星辰语义大模型已与华为昇腾AI基础软硬件完成适配:支持Atlas300Ipro推理卡,具备int8量化能力;支...……更多
开放模型权重被指将导致AI失控,Meta遭举牌抗议
...。与之相反,Meta 的 LLaMA 系列开源模型向公众提供了模型权重,使得任何拥有合适硬件和专业知识的人都可以自行复制和调整模型。一旦发布了模型权重,发布公司就不再有任何手段来控制 AI 的使用方式了。在 Holly Elmore 看来,...……更多
马斯克打脸OpenAI!全球最大模型Grok-1开源
...k-1正式对外开源开放,用户可直接通过磁链下载基本模型权重和网络架构信息。(图/钛媒体)xAI表示,Grok-1是一个由xAI 2023年10月使用基于JAX和Rust的自定义训练堆栈、从头开始训练的3140亿参数的混合专家(MOE)模型,远超OpenAI...……更多
“言出必行”马斯克,全球最大开源模型Grok真的来了
...Grok开源美东时间3月17日,xAI 正式宣布开源大模型Grok-1的权重和网络架构。xAI 表示,开源版大模型Grok-1是一个由 xAI 从头开始训练的 3140 亿个参数混合专家模型。据介绍,基础模型基于大量文本数据进行训练,没有针对任何具体...……更多
碾压所有对手?谷歌发布轻量化开源大模型,笔记本电脑就可跑
...Gemma更加轻量化。同时,Gemma依旧保持免费使用,其模型权重也一并开源,并且允许商用。谷歌共发布了两种不同权重规模的模型,分别为Gemma 2B(20亿参数)和Gemma 7B(70亿参数)。每种规模都有预训练和指令微调版本,允许所有...……更多
苹果的封闭生态为大模型打开!发布开源多模态大模型、每天为 AI 烧百万美元,零碎的 Android 生态打得过吗?
...态大模型也没有收到太多关注。当时,该版本包含代码和权重,但仅供研究使用,而非商业许可。但随着 Mistral 开源模型备受关注、谷歌 Gemini 即将应用于 Pixel Pro 和 Android,关于本地大模型为小型设备提供支持的讨论越来越多。...……更多
万字技术干货!LLM工程师必读量化指南,可视化图解揭秘大模型如何压缩
...模型参数量上,规模通常达到数十亿的级别(其中主要是权重)。 这些参数不仅存储成本相当高,推理阶段的计算量也很大。在推理过程中,激活值是输入和权重的乘积,因此权重数量越多,激活值也会越大。因此,我们希望...……更多
国内首个类chatgpt模型:复旦大学moss今日正式开源
...所含代码采用Apache2.0协议,数据采用CCBY-NC4.0协议,模型权重采用GNUAGPL3.0协议。如需将该项目所含模型用于商业用途或公开部署,需要签署文件并发送至robot@fudan.edu.cn取得授权,商用情况仅用于记录,不会收取任何费用。MOSS用例...……更多
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
...。具体来说,为了支持图像输入,Meta 训练了一组适应器权重(adapter weight),其可将预训练的图像编码器集成到预训练的语言模型中。该适应器由一系列交叉注意层组成,这些层的作用是将图像编码器表征馈送给语言模型。为...……更多
苹果AI震撼上线iPhone,进化版Siri却没有ChatGPT!47页技术报告揭秘自研模型
...在后训练阶段,苹果对模型进行了压缩和量化,平均每个权重低于4位。量化后的模型通常会有一定程度的质量损失。因此,研发团队并不是直接将量化模型交给应用团队进行功能开发,而是附加了一组参数高效的LoRA适配器来恢...……更多
360智脑7b参数模型采用3.4万亿tokens训练
...中文大海捞针测试,同样做到了98%以上的准确率。除模型权重外,该模型的微调训练代码,推理代码等全套工具集也被一并开源,大模型相关开发者可做到“开箱即用”。据IT之家此前报道,周鸿祎曾表示,前段时间大模型行业...……更多
模拟5亿年自然进化史,全新蛋白质大模型ESM3诞生!前Meta老将力作LeCun转赞
...m但比较遗憾的是,目前在HuggingFace仓库中还没有公开模型权重。英伟达官方博客显示,ESM3将在Nvidia BieNeMo平台提供一个小型开源版本的代码和权重,但仅限于非商业用途。仓库地址:https://huggingface.co/EvolutionaryScale/esm3-s……更多
腾讯开源最大MoE大语言模型!3D大模型同时支持文/图生成,晒混元模型及应用全家桶
...可生成高质量3D资产,已在技术社区公开发布,包含模型权重、推理代码、模型算法等完整模型,可供开发者、研究者等各类用户免费使用。本次开源的是1.0版本,后续还会有更完善、更先进的模型陆续发布。3D生成是一个较新...……更多
谷歌没开源的 PaLM,网友给开源了
...进行更高效的解码。 在优化算法方面,采用的则是解耦权重衰减AdamW,但也可以选择使用MitchellWortsman的StableAdamW。目前,模型已经上传到Torchhub,文件也存储在Huggingfacehub中。如果模型无法从Torchhub正确下载,请务必清除 .cache/……更多
精准狙击Llama 3.1?Mistral AI开源Large 2,123B媲美Llama 405B
...是开放的,但只限于研究和非商业用途。它提供了开放的权重,允许第三方根据自己的需求对模型进行微调。这一协议是对用户使用条件的一个重要限制。对于需要自行部署 Mistral Large 2 的商业用途,必须提前获取 Mistral AI 商业...……更多
火爆全球的AI音频大模型,最新技术细节揭秘
...动音频生成技术的发展和普及。目前,Stable Audio Open模型权重可在机器学习模型平台Hugging Face上获取。Stability AI鼓励声音设计师、音乐家、开发人员以及任何对音频感兴趣的人探索该模型的功能并提供反馈。来源:Stability AI ……更多
MSRA:视觉生成六大技术问题
...分析结果。其次,按照常规配置,对四种损失赋予相同的权重。基于这些假设,可以按以下方式简化重构损失的计算:因此,最小化图像级重构损失的潜在空间表示将是:这不能保证x0+x1+x2+x3比x0+x1+x2更接近arg min X。假设不同深...……更多
Meta首款多模态Llama 3.2开源!1B羊驼宝宝,跑在手机上了
...个全新的模型架构。在图像输入方面,训练了一组适配器权重,将预训练的图像编码器集成到预训练的大语言模型中。具体来说,该适配器:由一系列交叉注意力层组成,负责将图像编码器的表示输入进大语言模型通过在文本-...……更多
谢邀 这是知乎中文大模型给你的答案
...发布的“海盐计划5.0”中,知乎锚定职人创作者群体提升权重,最高可获得5倍流量及涨粉加权,并配合多渠道助力职人创作者变现。作为有专业的教育背景以及专业的职业身份,精通某项领域某种技能的群体,目前我国潜在的...……更多
OpenAI掀小模型血战!苹果DCLM强势登场,碾压Mistral 7B全开源
...,这是迄今为止性能最好的「真正开源」的模型,不仅有权重和训练代码,而且是基于开放数据集DCLM-Baseline。相比模型性能,DCLM做出的「真正开源」的典范更加引人关注。对比大部分科技巨头只搞闭源模型,或「犹抱琵琶半遮...……更多
苹果AI版iOS首日火爆:聊天秒变高情商,大模型成最强嘴替
...是在此基础之上蒸馏得到。 继续训练时,低质量数据的权重会被降低,并使用数学、代码以及获得授权的高质量数据,对模型能力进行提升。该过程使用了1T tokens的数据,窗口长度也从4096变成了8192。到了下一阶段,窗口长度...……更多
真香!智谱大模型,有了首个免费的API
... 2000 位,先到先得。智谱还将开放 GLM-4-Flash 模型的微调权重下载,很快人们将可以自由选择部署平台。这一系列行动,展示了国内大模型公司在应用层面的独特优势。在大模型技术对标国际先进水平的同时,国内 AI 的先头部队...……更多
第一个100%开源的MoE大模型,7B的参数,1B的推理成本
...多数 MoE 模型都是闭源的,虽然有些模型公开发布了模型权重,但有关训练数据、代码等的信息却很有限,甚至有些研究没有提供这些信息。由于缺乏开放资源和对研究细节的深入探索,在 MoE 领域无法构建具有成本效益的开源...……更多
Chat AI项目丨对标DeepMind Gato,人工智能模型「DB1」已在多领域落地验证
...任务具有不同的模式、观察和行动规范,比如在具有相同权重的同一网络下可以完成玩雅达利游戏、给图片加标题、聊天和用真正的机器人手臂堆积积木等等……谜题科技首席科学家汪军向36氪介绍:“DB1是全球首个人工智能多...……更多
更多关于科技的资讯:
三星启动hbm4开发,采用DRAM制程的基础裸片
据韩国媒体MK报道,三星已经启动了HBM4的开发,并且可能将为Meta和微软这两大AI云服务巨头提供定制的HBM4内存
2024-11-16 19:25:00
新款redmik80系列定位提升,采用居中开孔直屏
Redmi张一帆预热K80系列,称K80系列超强的产品力,这次又又又稳了。据悉,新款RedmiK80系列包括RedmiK80和RedmiK80Pro两款手机
2024-11-16 19:25:00
南海网11月16日消息(记者 梁振文)11月16日,记者从儋州市商务局获悉,儋州积极响应消费品以旧换新的号召,聚焦新能源汽车
2024-11-16 19:27:00
雷军发文感谢消费者,安卓手机销量冠军
11月12日消息,在刚刚过去的双11购物狂欢节中,小米公司再次取得了令人瞩目的销售业绩。据小米官方发布的数据,全渠道累计支付金额已突破319亿元
2024-11-16 19:30:00
努比亚z70ultra正式发布,搭载一块1.5K真全面屏
努比亚官方今天正式宣布,将于11月21日14:00召开新品发布会,推出新旗舰——努比亚Z70Ultra。官方预热海报贴出了“反孔精英AI战神”的Slogan‌
2024-11-16 19:31:00
小米手机副总裁金凡预告,ios“打破生态间隔”的功能
2024年9月,iOS18正式发布。因在多个功能上与国内Android系统走得很近,大有“心有灵犀”的感觉,iOS18也被不少人称作“抄袭安卓”
2024-11-16 19:34:00
疑似OPPO Reno13系列镜组布局曝光
在今天与网友的互动中,数码博主数码闲聊站曝光了疑似OPPOReno13系列手机的镜组布局图片。根据该图片来看,OPPOReno13系列采用小面积矩阵镜组设计
2024-11-16 20:03:00
骁龙 8 至尊版 2 代芯片迎超前爆料
近日首批骁龙8至尊版旗舰机型陆续发布,凭借不俗的性能表现赚足眼球。与此同时,外媒爆料人士Jukanlosreve带来了关于骁龙8至尊版2代芯片的超前爆料
2024-11-16 20:03:00
荣耀 300 Pro 配置曝光
在今天与网友的互动中,数码博主数码闲聊站透露了荣耀300Pro的主要配置。据悉,荣耀300Pro将会搭载高通骁龙8Gen3处理器
2024-11-16 20:03:00
一加 Ace 5 更多配置细节曝光
次旗舰机型中,一加Ace系列凭借不俗的性能配置以及大电池方案一直有着较高的市场关注度。而在近日数码博主数码闲聊站对一加Ace5的更多配置细节再度进行了相关爆料
2024-11-16 20:04:00
小米 15 Ultra 镜组布局图曝光,超大面积四摄方案加持
近日,一张疑似小米15Ultra的镜组布局图被曝光出来。该图展示了小米15Ultra在无背面盖板下的布局方案,可以看出
2024-11-16 20:04:00
荣耀 300 系列更多配置曝光
今天晚些时间,数码博主数码闲聊站表示,荣耀多项旗舰级规格配置下放,预计将会应用在即将发布的荣耀300系列手机上。具体规格包括“荣耀下放1
2024-11-16 20:04:00
OPPO Reno13 系列真机正面曝光,超窄边直屏方案
今天,数码博主数码闲聊站曝光了OPPOReno13系列手机的正面照。根据图片来看,OPPOReno13系列正面采用了同级别少见的极窄边框
2024-11-16 20:04:00
iQOO Neo 10 系列进入官方预热阶段
近日,各大安卓阵营的首批新一代旗舰机型已经陆续登场,不过此波新机潮尚未结束,多款子系列次旗舰机型、线下机型的发布计划也在有序推进中
2024-11-16 20:04:00
卢伟冰回应小米15pro售价:3开头的价格还是交给redmi
小米15Pro售价公布后,卢伟冰在发布会上不小心将5299元说成“3000”,引起现场一片欢呼。近日,他在直播中对此事进行了回应
2024-11-16 20:05:00