• 我的订阅
  • 头条热搜
1890美元,就能从头训练一个还不错的12亿参数扩散模型
...只用1890美元、3700 万张图像,就能训练一个还不错的扩散模型。现阶段,视觉生成模型擅长创建逼真的视觉内容,然而从头开始训练这些模型的成本和工作量仍然很高。比如 Stable Diffusion 2.1 花费了 200000 个 A100 GPU 小时。即使研...……更多
随着大模型的发展日新月异,其推理和训练的边界问题也引起了广泛讨论。近日,清程极智CEO汤雄超在一场行业活动中明确表示,尽管外界有声音认为OpenAI发布的o1模型模糊了推理和训练的界限,但从技术角度来看,这两个阶段...……更多
OpenAI推出用户自定义版ChatGPT
...成式AI而设计,其性能和能效得到显著提升,整数运算和浮点运算的性能是前一代的2倍,功耗降低了45%。点评:天玑9300旗舰5G生成式AI移动芯片是联发科在移动芯片领域的一项重磅产品,展示了其在5G和AI技术上的创新能力和竞争...……更多
...里的仿真测试,学习训练算力达3.3E FLOPS(每秒百亿亿次浮点运算),模型更新速度每5天迭代一次,用海量数据推动智能驾驶能力持续迭代升级;华为智慧屏搭载的AI摄像头拥有强大的智慧感知能力,可实现3D骨骼识别、坐姿或距...……更多
博鳌现场|“现有的大语言模型像个黑匣子,难以确定其真正目标和潜在风险”
...进行创新。科大讯飞去年与华为联合推出的首个支持万亿浮点参数训练的国产算力训练平台“飞星一号”,科大讯飞在今年1月30日发布讯飞星火大模型V3.5,同步推出星火语音大模型。讯飞星火V3.5七大核心能力全面提升,其中语...……更多
高通骁龙:端侧AI 启幕移动智能“芯”时代
...过INT模型进行量化是因为它的量化效果和效率相比常见的浮点模型更出色,将拥有70亿参数的模型量化至INT4模型,与将相同参数规模的模型量化至16FP或32FP浮点模型相比,能够有效降低内存带宽占用,让AI大模型推理更契合移动...……更多
炸裂!英伟达发布全球最强AI芯片:性能提升30倍丨邦早报
...4nm工艺,集成晶体管800亿。GB200的AI性能为每秒20千万亿次浮点运算,而H100为每秒4千万亿次浮点运算。相较于 H100 Tensor Core GPU,GB200 超级芯片可以为大语言模型(LLM)推理负载提供30倍的性能提升,并将成本和能耗降低高达25倍。...……更多
AI潮起 共筑数智之基
...,中国移动正式发布了由万卡级智算集群、千亿多模态大模型、汇聚百大要素的生态平台共同构成的“九天”人工智能基座,并开放三大人工智能基地,加快大模型产业化、规模化发展,为数字中国建设注入更加强劲动能。集聚...……更多
3天把Llama训成Mamba,性能不降,推理更快!
...影得到),这就完成了基本的参数初始化。之后就是SSM的运算过程,再通过投影和累加得到输出。模型架构和训练下图给出了模型的架构,因为Transformer的知识存在于MLP层,所以冻结这部分参数。除了用线性RNN层(Mamba)替换掉...……更多
微软被曝正自研AI大模型:5000亿个参数,与谷歌和OpenAI竞争
...巨头微软或正在研发参数达5000亿的全新AI(人工智能)大模型,将正面叫板谷歌和OpenAI。当地时间5月6日,据外媒报道,微软正在研发一款名为MAI-1的最新AI大模型,其规模远超出微软此前推出的一些开源模型,在性能上或能与谷...……更多
OpenAI掀小模型血战!苹果DCLM强势登场,碾压Mistral 7B全开源
...作者Illia Polosukhin表示,计算2+2不应该需要进⾏千万亿次运算。不过,科技巨头们也并没有放弃大模型。苹果在今年WWDC大会上,曾宣布了在Siri助手中植入ChatGPT,以执行撰写电子邮件等复杂任务。毕竟通往终极AGI/ASI,参数规模的...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...的高通AI引擎Hexagon 680 DSP,支持图像、音频和传感器的运算。2016年,高通骁龙神经处理引擎工具包(Snapdragon Neural Processing Engine SDK)正式发布。这款SDK允许OEM厂商在智能手机、安全摄像头、汽车和无人机等骁龙820设备上运...……更多
AI与人争资源怎么破解
...的5%。2030年全国数据中心耗电量接近4000亿度。除了芯片运算时的耗电量外,数据中心运行时还需要耗费大量淡水用于冷却服务器产生的热能。益企研究院创始人张广彬告诉《环球时报》记者,数据中心消耗的水,主要用于散热...……更多
...对算力需求非常大。这道题有两大难点,一是运算结果对浮点精度有一定要求,选手需要平衡性能优化和精度损失影响;二是赛题没有选择数值模拟中常见的代数方程组求解或是矩阵运算优化问题,而是聚焦对部分算法的性能提...……更多
AI用电量极速攀升引热议,会导致能源短缺吗?
...引起重视,据法新社报道,与传统计算机相比,人工智能运算能耗高、能效低并因此受到诟病。在近日举行的英伟达GTC大会上,能耗问题也被提及。资料图。陈增赟 摄波士顿咨询集团曾发布报告称,到2030年底,仅美国数据中心...……更多
聚焦智算 南京“智”变
...心超过830万标准机架,算力规模达246EFLOPS(每秒百亿亿次浮点运算)。千亿、万亿参数大模型的孵化,推动智算基础设施加快建设,智能算力需求持续爆发。算力基础设施是算力向社会提供服务的主要载体,南京高度重视算力基...……更多
探访中原“神算子”:每秒十亿亿次算力背后的科技力量
...的一个数量级别单位,1P代表1秒钟可以执行1000万亿次的浮点运算,100P就代表1秒钟可以执行10亿亿次的浮点运算,大约相当于5万台高性能电脑的算力。走进中原人工智能计算中心的机房,一排排指示灯闪烁不停,大型服务器正在...……更多
小扎新开源的Llama3.1,要带着套壳大模型追平GPT-4o?
...30 万 GPU 小时(相当于单块 GPU3930 万个小时的计算量 )。运算规模比 Llama2 翻了 50 倍,还填了包括多种语言的 15 万亿 Tokens ,相当于 7500 亿单词进去,而上代版本只有 1.8 万亿 Tokens 。模型上下文窗口也从 8K 增加到 128K ,扩展了……更多
AMD最古老的指令集最终绝迹:LLVM编译器不再支持3DNow!
...令集,多媒体处理能力大大提升,但它仅支持整数运算,浮点运算还得使用落后的x87协处理器指令。1998年,AMD首次打造了完全属于自己的指令集3DNow!(据说是3D No Waiting的缩写),一共21条,支持单精度浮点矢量运算,可增强3D性能...……更多
通义千问再放大招:720亿大模型开源,全尺寸赶上LLaMA-2,还有移动端可用的18亿模型
...院所可利用AI来辅助科研工作——这些工作都需要复杂的运算,也依赖于模型能力边界的不断拓展。阿里云在会上也请了不少开发者、企业介绍已有的模型实践。比如华东理工大学的X-D Lab,及基于基于开源的通义千问开源模型开...……更多
“华米OV”的新战场:手机大模型
...单精度浮点数,可以表述小数点后 7 位,相当精确,但是运算开销较大。INT8 就是 8 位整数,只占用 1 个字节,运算开销较小。这个过程,可以理解为把原本精细的计算部分模糊化,量化操作让端侧的大模型无需达到云端的“尽...……更多
天玑8300突然发布:堆料很激进!网友:骁龙7 Gen3稍显尴尬
...了MediaTek AI处理器APU 780,搭载生成式AI引擎,整数运算和浮点运算的性能是上一代的2倍。关键是还支持旗舰级LPDDR5X 8533Mbps内存,支持UFS 4.0闪存以及多循环队列技术,这都是很强的存在。 而且天玑8300处理器的架构也是非常的强...……更多
2022生成模型进展有多快,新论文盘点9类生成模型代表作
...对话格式进行训练,此外也可以生成代码和进行简单数学运算。LaMDA 基于Transformer打造,利用了其在文本中呈现的长程依赖关系能力。其具有1370亿参数,在1.56T的公共对话数据集和网页文本上进行训练,只有0.001%的训练数据被用...……更多
让“私人助理”可随身携带
...预测,2024年,全球约5%(约6000万部)的手机会具有端侧AI运算能力。据业内人士分析,智能手机用户规模巨大、便携性较强、应用生态完善,有望成为大模型最理想的落地平台。为何手机厂商要花费大量精力自研手机大模型?手...……更多
AI探索宇宙结构新突破!超精准场级模拟,半秒完成冷暗物质仿真
...在3D网格中。输入经过四个ResNet 3×3×3卷积,第一个卷积运算将3个输入通道转换为64个内部通道。在四次卷积操作之后,结果的副本被存储以供网络的上采样端使用,然后使用2×2×2卷积核对结果进行下采样。该架构的感受野对应...……更多
...辐射湘鄂赣三省,已建成1500PFLOPS(1PFLOPS=每秒1千万亿次浮点运算)服务能力。到今年底,该中心将扩容至6800PFLOPS,成为华中地区规模最大的智算中心。(李昕宇 朱凌燕) ……更多
小模型正在成为AI界的新宠
大模型的发展已经进入了万亿级参数时代。DeepMind 联合创始人穆斯塔法・苏莱曼(Mustafa Suleyman)预测, 仅在未来三年内,大模型规模以惊人的速度继续扩张,将增长 1000 倍。一方面,模型的参数量与其能够处理和学习的复杂性...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...构设计,主要用于云端训练、推理以及Azure的高负载云端运算。不过纳德拉否认了将向云计算客户供货的传闻,这款自研芯片将优先满足微软自身的需求,并在合适的时机向合作伙伴和客户开放。Azure芯片部门负责人、微软副总...……更多
江波龙512GB CXL AIC内存扩展卡亮相
...助推AI算力、高性能计算和数据中心等领域的处理能力和运算效率的提升。如果在单机箱内集成8个CXL 2.0 AIC内存扩展卡,就可以形成一个存储池,其容量高达4TB,带宽可达1TB,通过MCIO接口连接服务器,为高性能计算集群提供...……更多
智界S7掀起山东购车热潮!焕新升级,智界S7亮相华为鸿蒙生态春季沟通会
...里的仿真测试,学习训练算力达3.3E FLOPS(每秒百亿亿次浮点运算),模型更新速度每5天迭代一次,用海量数据推动智能驾驶能力持续迭代升级。智界S7超强科技实力,规模交付不断加速作为鸿蒙智行首款智慧轿车,智界S7在产品...……更多
更多关于科技的资讯:
英伟达App正式版实测:一键免费强化显卡,虽不完美但能用了
英伟达的驱动管理软件“英伟达App”,终于更新了。说实话每次看到英伟达的GeForce Experience,都有一种在看10年前软件的感觉
2024-11-15 13:35:00
聚焦无源物联网,中国移动四场论坛引爆2024世界物联网博览会
江南时报讯 金秋时节逢盛会,在成功举办两场精彩纷呈的论坛活动后,中国移动于11月12日再度发力,隆重举办“2024无源物联网前沿探索与技术创新分论坛”“2024年无源物联网产业应用与生态合作分论坛”两大盛会
2024-11-15 11:52:00
无锡移动《区域级医学影像智能诊断ICT融合解决方案》荣获“华彩杯”算力大赛全国总决赛荣获二等奖
江南时报讯 日前,第二届“华彩杯”算力创新应用大赛全国总决赛结果发布。江苏移动无锡分公司(以下简称无锡移动)联合中移软件
2024-11-15 11:52:00
本田发布全新2026款passport中型suv,外观大变样
11月13日消息,本田汽车发布了全新2026款 Passport 中型SUV,拥有更加粗犷、强悍和方正的外观设计,以及更强的越野性能
2024-11-15 11:56:00
2024年11月15日调研咨询机构环洋市场咨询出版的《全球系统性自身炎症性疾病药物行业总体规模、主要厂商及IPO上市调研报告
2024-11-15 11:56:00
全新宝马x3驾驶体验
继在成都车展揭开外观设计的神秘面纱后,全新BMWX3即将在2024广州车展全方位展示创新内饰及智能座舱,揭示其创新科技赋能驾趣的内核
2024-11-15 11:57:00
桌面版ChatGPT向Windows用户开放 支持拍照识别
今日,OpenAI正式向Windows用户开放桌面版ChatGPT。今年6月,OpenAI官宣了Mac版ChatGPT
2024-11-15 12:00:00
11月15日,深圳前海、宝安将举行人工智能应用创新成果发布会。届时,华为(深圳)全球具身智能产业创新中心将启动运营,并举行优选伙伴签约仪式
2024-11-15 12:07:00
宁王快充电池+华为乾崑智驾 阿维塔11增程版预售:29.99万
快科技11月15日消息,在广州车展开展首日,阿维塔带来了品牌第三款增程混动车型——阿维塔11 Ultra增程版,其售价为29
2024-11-15 12:20:00
声动榕中 | 博罗县榕城中学第八届校园金话筒大赛圆满结束
“请选手选择题目……好,你的题目是主持一档电台节目,请与听众展开互动……”这是近日博罗县榕城中学第八届校园金话筒大赛决赛现场的一幕
2024-11-15 12:27:00
雷军承认车间睡觉照是摆拍:逗大家开心的,不要当真
11月14日小米创始人兼CEO雷军开启直播,在直播中,雷军谈到此前发布的车间睡觉照,“在等10万辆车下线,去得太早等的有点无聊
2024-11-15 12:38:00
不肝不氪:《王者荣耀》今天免费送干将莫邪新皮肤
快科技11月15日消息,《王者荣耀》宣布,今天上线干将莫邪·雾都夜雨新皮肤免费领活动。11月15日-11月27日活动期间
2024-11-15 12:50:00
吉林一号卫星直击中国黄岩岛:壮丽山河 寸土不让!
2024年11月10日,中华人民共和国政府根据1992年2月25日颁布的《中华人民共和国领海及毗连区法》,宣布中华人民共和国黄岩岛的领海基线
2024-11-15 12:50:00
有人强烈建议余承东改名余成功!奇瑞董事长谈跟华为合作细节:定能成功
快科技11月15日消息,今天上午10点,鸿蒙智行也是开启了广州车展的直播,而余承东也是亲自出现在站台。这次余承东还是一如既往的为智界站台
2024-11-15 12:50:00
2024广州国际车展比亚迪夏首发:把MPV油耗打下来
快科技11月15日消息,在今日开幕的2024广州国际车展上,比亚迪全新MPV夏正式首发亮相,并将于明年第一季度上市,预计售价围绕30万元展开
2024-11-15 12:50:00