• 我的订阅
  • 头条热搜
ChatGPT一周年|炼制大模型芯片短缺数据有限,何以解忧?
...生了更多疑问:大语言模型下一步的进化方向是什么?AI芯片短缺何时解决?训练数据快要耗尽了吗?中国的百模之战会如何演化?AI技术发展应加速还是减速?。 算力与数据,是支撑大型语言模型发展的两大基础设施,类比发...……更多
黄仁勋万字答问实录:AI的下一个浪潮是什么?
AI(人工智能)芯片龙头英伟达CEO黄仁勋在英伟达GPU技术大会(GTC)上打开了话匣子。当地时间3月19日,在座无虚席的英伟达GTC大会主题演讲结束后的第二天,黄仁勋参加全球媒体采访,回答了来自二十几家媒体的采访问题。这...……更多
存储市场“供销两旺”原厂业绩好转,AI对存储应用市场提出要求
...今年还会涨价,这些高容量产品受益于AI的带动。”存储芯片是全球芯片市场的重要支柱,约占全球半导体市场的1/4至1/3。存储芯片可以简单地分为闪存和内存,其中,闪存主要有NANDFlash、NORFlash,内存主要为DRAM。对于2024年全年...……更多
自研芯片三国杀,头部智驾新战场,蔚小理谁强?
在8月小鹏MONA M03的发布会上,何小鹏宣布自研的图灵芯片流片成功,这使其成为 继蔚来之后第二家正式公布自研智驾芯片的主机厂。早在去年的9月份,蔚来就对外公布了自研的智驾芯片——神玑NX9031,号称1颗更比4颗强,并在7...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
...的竞争格局。目前为止,AI硬件市场主要由对英伟达训练芯片的无限需求主导。但如果通过增加训练时间和测试(推理)时间,模型就能获得更好的结果,那新一代模型可能就不再需要那么大的参数,较小的模型将直接降低成本...……更多
能效是英伟达 H100 的 8 倍,三星携手 Naver 发布新 AI 芯片
...在 AI 半导体方面已有重大突破,研制出了首款解决方案芯片,其能效是英伟达 H100 产品的 8 倍。双方推进的半导体解决方案,专门针对 Naver 的 HyperCLOVA X 大型语言模型,定制了一块现场可编程逻辑门阵列(FPGA)芯片。Naver 表示...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...伟达正在建立一个专注于为云计算、AI等领域设计ASIC专用芯片的新业务部门。之所以英伟达要布局ASIC,正是因为其看到了即将爆发的推理市场,不想出让这块即将到来的大蛋糕。在他们看来,凭借在能耗和性能方面的优势,ASIC...……更多
英伟达抛出年度AI杀器:史上最强芯片,还有机器人大模型
...“最成功”GPU 此次演讲中,英伟达发布了他们的下一代芯片架构Blackwell,这一GPU平台也是黄仁勋口中,英伟达史上最成功的产品。据介绍,Blackwell GPU以数学家David Harold Blackwell的名字命名,同样沿用了英伟达此前推出的Hopper架构...……更多
系统级玩家微软、苹果先后出牌,端侧大模型路径清晰了?
...e Intelligence设定的硬件门槛是A17 Pro(手机端)以及 M 系列芯片(平板和电脑端)。A17 Pro 的 AI 算力为35 TOPS,内存为8 GB,目前仅有iPhone 15 Pro 和 15 Pro Max两款手机配备A17 Pro。M系列芯片以下限M1为例,AI算力约为……更多
英伟达H20芯片能拉动多少营收 行业分析机构预估接近900亿
根据芯片行业咨询公司SemiAnalysis给出的最新预期,英伟达公司为中国市场“特供”的H20芯片,有望在当前财年大幅提振该公司的中国区业绩。由于这款Hopper架构的AI芯片,算力规格较H100、H200芯片大幅缩水,甚至光比算力已经被...……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
...、低功耗的算力选择:和英伟达密切合作 持续投入自研芯片一方面,亚马逊云科技和英伟达的合作已经长达13年,二者保持长期的战略合作关系,曾共同推出了世界上第一个GPU Cloud实例。在披露的最新进展中,亚马逊云科技将...……更多
微软紧随英伟达发布芯片,老黄还不慌吗?
...。而整场演讲的重头戏,非AI莫属——尤其是首款自研AI芯片AzureMaia100的亮相,成为场内场外无数聚光灯下的焦点。微软重视AI人所共知,发力自研芯片也不是什么秘密。Maia100的亮相,则是微软的第一张阶段性答卷,向外界表明...……更多
算力浪费超50%!百度AI计算部负责人拆解大模型时代的算力成本
...设施的重要性。近期,不少业内人士认为,“兼容CUDA是AI芯片的决胜点”,但王雁鹏并不认可这个观点。他解释道,不少模型兼容CUDA后,只留住了1/3的性能,失去了原有的竞争力。英伟达是基于CUDA构建了一个加速库生态,王雁...……更多
凌晨突发!黄仁勋,重大宣布!华尔街沸腾
...形处理器(GPU),称其“非常非常强大”,第一款Blackwell芯片名为GB200,将于今年晚些时候上市。黄仁勋演讲结束后,英伟达股价盘后一度跌超2%,但华尔街机构均对2024年英伟达GTC大会寄予厚望。其中,以Vivek Arya为首的美国银行...……更多
买不到GPU,马斯克自曝AI巨兽Dojo!自研超算挑战英伟达,约等于8千块H100
...o的总计算能力,将在2024年10月达到100 exaflops。假设一个D1芯片可以实现362 teraflops,要达到100 exaflops,特斯拉将需要超过27.6万个D1芯片,或者超过32万英伟达A100 GPU。500亿晶体管,D1已投产2021年特斯拉AI Day上,D1芯片初……更多
智能驾驶的「 ChatCPT 时刻」,这么近,那么远
...拉在得州工厂造了「大风扇」,用来给 5 万片英伟达 H100 芯片散热,这些芯片用于特斯拉自动驾驶 FSD 的训练。用 5 万片 H100 芯片训练 FSD,这事儿听起来是很疯狂,但也指出了端到端架构的一个问题,非常依赖数据训练的效果,...……更多
微调大模型,AMD MI300X就够了!跟着这篇博客微调Llama 3.1 405B
随着 AI 模型的参数量越来越大,对算力的需求也水涨船高。比如最近,Llama-3.1 登上了最强开源大模型的宝座,但超大杯 405B 版本的内存就高达 900 多 GB,这对算力构成了更加苛刻的挑战。如何降低算力的使用成本和使用门槛,...……更多
美国政府加速限制,要求英伟达立即停止A800/H800芯片销往中国|硅基世界
...(图片来源:钛媒体App编辑拍摄)六天前发布的美国对华芯片管制新规,最终遭遇拜登政府的“变卦”。北京时间10月24日晚间,英伟达(NASDAQ:NVDA)向美国证券交易委员会(SEC)发布8-K公告称,美国政府通知英伟达此前限制出...……更多
微软难以摆脱英伟达 |焦点分析
作者|杨逍编辑|苏建勋微软推出自研芯片,人工智能市场拉开新序幕。11月16日,微软在其科技大会上发布了两款自研芯片——用于云端训练和推理的AI芯片Azure Maia 100,和CPU(中央处理器)Azure Cobalt 100,分别在AI芯片和CPU芯片...……更多
英伟达禁令之后,中国AI计算何去何从?
10月17日,美国加强了面向中国市场的AI芯片禁令。其中明确将性能、密度作为出口管制标准,将单芯片超过300teraflops算力,以及性能密度超过每平方毫米370 gigaflops的芯片都纳入了禁止出口行列。虽然在这一禁令下,AMD、英特尔...……更多
最前线|CPU AI性能提升10倍!英特尔推第四代至强可扩展处理器,以及超1000亿晶体管GPU
...达4个采用Intel 7制程工艺的单元,并通过英特尔嵌入式多芯片互连桥接(EMIB)封装技术连接。其最大的特点是内置了7大加速器,覆盖人工智能、数据分析、网络、存储和科学计算等众多领域,也被称为“七大算力神器”:高级...……更多
一行代码训练成本再降30%,AI大模型混合精度训练再升级
...势。从最早的FP32,到目前通用的FP16/BF16,再到Hopper系列芯片(H100, H200, H800等)支持的FP8,低精度计算速度越来越快,所需的内存也越来越低,非常符合大模型时代对硬件的需求。目前FP8混合精度训练影响训练结果的最大因素就是...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...势,2023年世界互联网大会乌镇峰会上,国内云端RISC-V大芯片创企希姆计算就联合国鑫发布了基于开源指令架构RISC-V打造的大模型系列一体机。其中包括2U4卡、4U8卡机,支持部署6B、7B、13B参数规模的大模型,这也是专门针对私有...……更多
英伟达发布Llama-3.1-Nemotron-51B AI 模型
...伟达 9 月 23 日发布博文,宣布推出 Llama-3.1-Nemotron-51B AI 模型,源自 Meta 公司的 Llama-3.1-70B,不过创新使用神经架构搜索(NAS)方法,建立了一个高度准确和高效的模型。Llama-3.1-Nemotron-51B 简介Llama-3.1-……更多
新鲜早科技丨英伟达业绩远超预期,盘后股价直线拉升;谷歌开源Gemma大模型
...公司还计划重新开发用于下一代数据中心和基础设施定制芯片的 2 纳米 GAA,以及将改变未来生成式 AI 移动计算市场的开创性 AI 芯片解决方案。2、英特尔推出面向AI时代的系统级代工。当地时间2月21日,英特尔宣布推出面向AI时...……更多
微软连发3款Phi-3.5模型:128K上下文,首用MoE架构,部分性能超GPT-4o mini
...3.5-vision-instruct(41.5亿个参数)。1、Phi-3.5-mini-instruct:A16芯片本地可跑Phi-3.5-mini-instruct专为遵守指令而设计,此模型非常适合在内存或算力受限的环境中提供强大推理能力,能胜任代码生成、数学问题和基于逻辑的推理等任务。.……更多
特斯拉超级计算集群命名Cortex:10万颗英伟达芯片训练FSD和机器人
...ex”。马斯克介绍,“Cortex”拥有约10万颗英伟达H100和H200芯片,用于训练全自动驾驶(FSD)和人形机器人擎天柱(Optimus)的神经网络。不过,云端计算芯片价格不便宜,有消息显示,英伟达H100芯片目录价约为22000美元,实际成...……更多
清华郑纬民院士:AI for Science的出现,让高性能计算与AI的融合成为刚需|MEET2023
...?其实也有,但没有太合适的。比如, DeepBench针对单个芯片,不适用于整机评测。 Mobile AI Bench针对的是移动端硬件上的模型训练评测,不是整个系统的。 MLPerf可扩展性不好。因此,我们决定要自己做一个。做个AI基准设计一定...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
...但什么时候能排上单?随着美国加紧对英伟达GPU及国产AI芯片的限制,这个问题恐怕要打上一个大大的问号。AI服务器对大模型的重要性不言而喻。如果把大模型比作一个需要靠吃大量数据长大的孩子,那AI服务器就是决定孩子能...……更多
“苹果智能”仅面向付费开发者,三大新模块炸裂出圈
...价格相对有竞争力,在三年预订期内,最新型号产品每颗芯片每小时(训练)成本不到2美元。并且,与英伟达的独立芯片相比,谷歌TPU的优势在于芯片级别的互联性特别高。苹果的技术论文表明,TPU架构可以开发更大、更复杂...……更多
更多关于科技的资讯:
借力AI,杭州药企最近多次上头条:6月19日,德睿智药自主研发的首款AI设计口服小分子新药MDR-001片临床取得成功
2025-07-08 07:48:00
无人机航测工程师周哲文:备齐通行证,“飞”向这片新兴蓝海□南京日报/紫金山新闻记者余梦娇7月4日上午11时,室外实时气温已经达到38摄氏度
2025-07-08 07:51:00
定位重塑,服务升级!齐鲁壹点12.0版本上线
齐鲁晚报·齐鲁壹点记者 吴佳齐鲁壹点12.0来了!7月8日,走过十一年发展历程的齐鲁晚报官方新闻客户端齐鲁壹点再一次迎来全新版本升级
2025-07-08 07:11:00
当今金融市场正从产品主导转向服务核心,客户需求多元复杂,监管政策不断更新,带来诸多挑战。南通农商银行敏锐把握变化,深知员工能力提升是关键
2025-07-07 21:15:00
中新经纬7月7日电 据法新社报道,当地时间7日,苹果公司对欧盟处以的5亿欧元罚款提起上诉。报道称,今年4月欧盟委员会对苹果公司处以罚款
2025-07-07 21:48:00
为提升电力市场交易透明度,帮助企业更精准地管理用电成本,7月7日,国网山西省电力公司发布消息,该公司在“e-交易”APP上线“零售客户月度账单展示分析”智能决策功能
2025-07-07 22:15:00
买机器人,就像买车一样?杭州首家“机器人4S店”来了
4S店里的机器狗 记者 杨亦淇 摄7月5日,杭州具微科技有限公司在金沙湖畔开出杭州首家“具身智能4S店”。同时,具微科技首款轮式四足机器人“MOVENEW T1”实体亮相
2025-07-07 08:44:00
日前,教育部基础教育教学指导委员会发布了《中小学人工智能通识教育指南(2025年版)》和《中小学生人工智能使用指南(2025年版)》(以下简称《使用指南》)
2025-07-07 10:26:00
淘宝闪购日订单超8000万,日活跃用户超2亿
淘宝闪购、饿了么联合宣布,淘宝闪购日订单数超8000万,其中非餐饮订单超1300万,淘宝闪购日活跃用户超2亿。淘宝闪购于5月2日正式上线
2025-07-07 10:27:00
天猫校园「超级赞助」,作为高校社团合作的创新赞助IP,承接品牌商业化赞助需求,深入渗透大学生的学习娱乐场景,是品牌与新生代破冰快速建立联系的直通车
2025-07-07 10:34:00
总台记者接到消费者反映,他们在网络平台上吐槽某商品不好用的差评帖,莫名其妙就消失了。并且发现在好多直播电商平台的差评区里
2025-07-07 10:47:00
飞渡科技发布“峥嵘大模型”:开启空间智能新时代,让世界学会思考
在人类文明的演进中,空间始终存在,却从未被真正理解。我们以为看见了世界,其实只是窥见了它的投影。如今,飞渡科技以“峥嵘大模型”重新定义空间智能——它不仅复刻现实
2025-07-07 14:06:00
CTI华测灏图品测首创消费者偏好AI预测模型斩获\
2025年7月3日,荣格技术创新奖隆重揭晓,华测检测认证集团股份有限公司(简称CTI华测检测)旗下子公司——灏图科技(上海)有限公司(简称灏图品测)首创的"FAST——消费者偏好AI预测模型"斩获"2025荣格技术创新奖"
2025-07-07 14:37:00
君乐宝威县一牧通过TPM优秀奖初审 牧业精益管理实现里程碑式突破
7月4日,君乐宝乳业集团威县第一牧场凭借系统性的精益管理实践与显著的提质增效成果,成功通过TPM(全面生产维护)优秀奖初审
2025-07-07 15:22:00
【AI看齐鲁软件园】对话元岳科技:AI从业者眼中的智能体实践与前瞻
大众网记者 赵晓丹 曹博宇 济南报道人工智能浪潮席卷全球,企业级应用正成为竞争的核心战场。近日,记者探访位于齐鲁软件园的元岳科技
2025-07-07 15:34:00