• 我的订阅
  • 头条热搜
亚马逊连甩6款大模型!推出3nm AI训练芯片,最强AI服务器算力爆表
...大模型,还推出3nm第三代AI训练芯片Trainum3及其迄今最强AI服务器Trn2 UltraServer。这是Amazon Nova系列基础模型首次亮牌。包括Micro、Lite、Pro、Premier四个版本的语言模型,还有图像生成模型Canvas、视频生成模型Reel。其中Reel现支……更多
科大讯飞申请推理方法相关装置及推理系统专利,具有较高的推理速度
...理系统,应用于推理加速技术领域,推理方法包括:云端服务器通过对第一模型进行模型蒸馏得到第二模型,通过复制第二模型得到影子模型,将第二模型发送至终端;终端在本地部署第二模型,利用本地的第二模型对用户请求...……更多
模型即服务,卓世科技MaaS平台 2.0 正式上线
...型部署:将训练好的模型部署到生产环境中,可能包括云服务器、边缘设备或特定硬件上。 2、API集成:提供API接口,使得模型可以被其他应用程序调用,实现模型服务的快速集成。 3、应用开发框架:提供一套框架和工具,帮...……更多
AI泡沫不可避免!李彦宏敲响警钟:PMF是生存关键
...其中人工成本最低,每年“仅”需约15亿美元;租用微软服务器为ChatGPT及底层LLM提供动力的推理成本,一年约40亿美元;包含数据费用在内的训练成本,一年则需要约30亿美元,未来则将突破100亿美元。至于中国AI领先者百度,在...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...更多是针对生成式 AI 所研发的训练芯片。每个TPU v5p pod(服务器组)都由8960个芯片组成,它通过TPU带宽最高的芯片间互连(ICI)以每秒4800Gbp速度在3D拓扑结构中连接。与TPU v4相比,TPU v5p的Flops性能提高了2倍以上,高带宽内存(H...……更多
【科技早报】联想、英特尔、爱奇艺签署谅解备忘录;国内低轨卫星通信测试成功
...“云工开物”计划,给中国所有在校大学生每人送一台云服务器在10月31日举办的2023云栖大会上,阿里云首席技术官周靖人发布阿里云高校计划“云工开物”,计划将为中国所有在校大学生免费提供一台云服务器,所有高校学生...……更多
昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
...用并落地的开源千亿MoE大模型,也是首个支持用单台4090服务器推理的开源千亿MoE大模型。开源地址Skywork-MoE的模型权重、技术报告完全开源,免费商用,无需申请。模型架构本次开源的Skywork-MoE模型隶属于天工3.0的研发模型系列...……更多
若愚科技推出九天机器人大脑,大模型总参数规模达130亿 |项目报道
...用功能。若愚九天机器人大脑架构若愚科技选择将和头部服务器厂商合作,通过服务器厂商的核心需求,来覆盖不同领域的70%、80%的场景。未来,公司计划在与中长尾客户合作时,进一步增加客户需要的功能。若愚科技已经完成...……更多
4月17日,浪潮信息与英特尔(Intel)联合发布AI通用服务器NF8260G7,在业界首次实现服务器基于通用处理器支持千亿参数大模型的运行,灵活满足基于大模型的AI应用及云计算、数据库等通用场景,为企业大模型应用落地提供更高效...……更多
算力市场格局生变,谁能“拔得头筹”?
...,仅使用了业界普通训练方案9%的算力资源,基于112台A800服务器,用时4个月完成了3个模型总计2.3Ttokens的训练。6月17日消息,江苏鲲鹏·昇腾生态创新中心首席运营官王陶日前公开表示,昇腾集群是国内唯一已完成训练千亿参数...……更多
英伟达带来最强AI芯片,但赶超苹果又远了一步?
...伟达的新一代芯片平台。基于该平台,英伟达提供有多种服务器节点规格,性能从小到大依次为:HGX B100,HGX B200,以及GB200 NVL72。HGX B100配备x86 CPU和8个B100 GPU。HGX B200使用8个B200 GPU 和1个x86 CPU。最强大的GB200 N……更多
CPU,正在被AI时代抛弃?
...性和数据的安全性。但这也就愈发让我们好奇,作为通用服务器,CPU在AI时代可以发挥怎样的优势?其背后的技术原理又是什么?1、AI时代,CPU是否已被被边缘化?提起AI训练和AI推理,大家普遍会想到GPU更擅长处理大量并行任务...……更多
为AI加速而生 英特尔第五代至强CPU带来AI新表现
...场展示了搭载第五代至强®️ 可扩展处理器的新一代自研服务器所呈现的能力——全部以超过20%的性能提升“姿势”亮相!具体而言,京东云与上一代自研服务器有了如下的性能提升:• 整机性能提升达123%;• AI计算机视觉推理性能...……更多
Sora横空出世 互联网大厂将却未来几年的命运交给了?
...10亿美元,为OpenAI提供支撑大模型开发所需要强大算力的服务器;2021年,微软又向OpenAI追加了20亿美元的投资;直到2023年12月,OpenAI凭借聊天机器人ChatGPT一炮而红,微软顺势在2024年1月增加投资100亿美元。 大笔投入技术,这让...……更多
手把手教你本地部署DeepSeek:享受AI带来的便利
...甚至登上了不少地区的app榜单。不过在使用时经常会遇到服务器繁忙的困扰,解决办法也很简单,就是将其部署到本地,无需依赖云端服务即可享受AI带来的便利。要在本地部署DeepSeek,需要借助运行大语言模型的工具,这里我...……更多
新质生产力|贵州南智云谷:“山谷”里造智算“引擎”
...地此处已有10年。如今,在企业机房内,一排排机柜中的服务器24小时不间断运转,服务器“生产”的算力,也源源不断输送给省内及东部地区的算力需求方。南智云谷正在全力建设全国一体化算力网络国家(贵州)枢纽安顺分...……更多
生成式AI时代:AI服务器前景广阔,浪潮信息营收大增8成
...而底层所支撑的是算力,包括高性能AI芯片以及高性能AI服务器支撑,为高效AI服务器提供了更广阔的发展空间。其中,浪潮信息作为全球服务器市场重要玩家,受益算力需求,营收也恢复了增长。2024年第一季度营收176亿元,同...……更多
2023年AI的钱被谁赚走了?
...GPGPU架构为基础,兼容通用的“类CUDA”环境,主要部署在服务器集群或数据中心,能够支持全精度模型训练,实现LLaMa、GPT、Bloom、ChatGLM、悟道、紫东太初等为代表的大模型的全面应用,与国内包括文心一言等大模型全面适配。2...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...才推出的顶配芯片 B200 也要快上超过 10 倍。一台 Sohu 的服务器运行 Llama 70B 每秒可输出超过 50 万个 token,比 H100 服务器(23,000 个 token / 秒)多 20 倍,比 B200 服务器(约 45,000 个 token / 秒)多 10 倍。……更多
微软被曝正自研AI大模型:5000亿个参数,与谷歌和OpenAI竞争
...。为了训练该模型,微软已经配置了大量包含英伟达GPU的服务器集群,并从各类来源收集训练数据,包括由OpenAI的GPT-4生成的文本和公共互联网数据。这或将使MAI-1与OpenAI的GPT-4处于相似的水平,据传后者拥有超过1万亿个参数。Ph...……更多
贵州国企“智”变攻坚推动数实融合
...生态在贵州大数据集团数字化事业部,键盘声、讨论声与服务器嗡鸣,交织成一曲数字化变革的前奏。曾经困扰贵州国资监管的数据孤岛、系统壁垒、智能应用短缺和安全风险等难题,即将被贵州国资云破解。8月底,由贵州省...……更多
通义千问发布半年,大模型已不是阿里云唯一主角 | 焦点分析
...据晚点报道,周靖人表示,最初阿里云想把几百台(GPU)服务器连起来做训练都很难,云优化一点,大模型才能发展一点。模型发展到一定程度又遇到挑战,又需要云去升级。正因如此,阿里云这几年都在强调要回归基础计算技...……更多
云巨头生态之变:从云计算到AI大模型时代
...的核心能力基本停留在IaaS层面的“计算、存储和网络”服务器相关三大件领域,对于PaaS层的云服务能力相较落后于AWS等一众海外云厂商。但实际上,云厂商的价值则是要向PaaS平台发展的。“把IaaS、PaaS以及SaaS三者的优势拿出来...……更多
商汤营收恢复增长,亏损收窄至43亿元;CEO徐立回应DeepSeek影响
...商汤增加投资以训练及微调基础模型,加上折旧及摊销、服务器运营及云服务费增加所致。过去三年,商汤一直在建设基础设施,位于上海临港的AIDC算力规模已达到2.3万PetaFlops,同比增长92%,可以支撑超过20多个千亿超大模型同...……更多
互联网十年:构建人与算法的关系,AIGC技术浪潮迎来新突破
...飞天5K”[4],如今,“飞天”能将遍布全球的数百万台服务器连接成一台超级计算机,单集群可达1万台规模,10万个进程达毫秒级响应,十亿级文件数,EB级别存储空间。在大模型训练任务中,可节省超过50%算力资源。(注:...……更多
苹果的人工智能为何与众不同?高管这样说
...人工智能模型。而用户通常需要通过互联网与同样强大的服务器进行交互,才能访问这些人工智能软件。苹果对人工智能的愿景并非局限于构建庞大的模型,而是聚焦于一系列轻量级、高效的小模型,这些模型不需要太多的算力...……更多
英伟达地表最强,黄教主被称作AI界“霉霉”
...务提供商,其中亚马逊将构建一个包含20000个GB200芯片的服务器集群。思科、戴尔、惠普、联想和超微电脑等大量企业也都已经把提供基于Blackwell产品的各种服务提上了日程。英伟达表示,新芯片预计将于今年晚些时候上市,但...……更多
AI与人争资源怎么破解
...数千亿个参数。为完成如此庞大的计算,需要动用由大量服务器组成的数据中心。例如GPT-4完成一次训练需要约3个月,使用约2.5万块英伟达A100图形处理器(GPU)。以每块GPU的功耗400瓦计算,GPT-4一次训练就要耗费2.4亿度电。 据...……更多
AI商业化浪潮来袭,AI基础设施需求旺盛
...,券商观点普遍认为,海外巨头AI投入的加大,将带动AI服务器、AI芯片、光模块等AI基础设施需求,将持续提振AI算力景气度。科技巨头上调AI资本开支,算力需求维持高景气AI技术持续演进,科技公司不断升级AI大模型,但想要...……更多
商汤联合发布白皮书,首次提出新一代AI基础设施评估体系
...络以及数据服务都要做精细化的设计和重构,而非简单的服务器或GPU实例堆砌。《白皮书》明确了新一代AI基础设施的定义:以大模型能力输出为核心平台,集成算力资源、数据服务和云服务,专门设计用于最大限度提升大模型和生成...……更多
更多关于科技的资讯:
中新经纬11月19日电 中国疫苗行业协会微信公众号19日发布《关于反对“内卷式”竞争 促进疫苗及其相关生物制品行业高质量发展的倡议》(下称《倡议》)称
2025-11-19 17:36:00
鲁网11月19日讯近日,由建行日照分行青年员工朱杰主导研发的“机箱及计算机主机及支架装置及具有其的显示器”两项实用新型专利
2025-11-19 11:14:00
圆满收官!2025年第二届中关村具身智能机器人应用大赛落幕
中国网讯 11月17-18日,在北京中关村国家自主创新示范区展示中心,以“具身引智、应用未来”为主题的2025年第二届中关村具身智能机器人应用大赛圆满收官
2025-11-19 11:24:00
“箱包之都”牵手中国大集,共筑数字信任新生态
鲁网11月19日讯 (记者 吴艳萍)在数字经济与实体经济深度融合的背景下,11月18日,中国大集与白沟箱包产业带W2W战略合作签约仪式举行
2025-11-19 11:52:00
大华股份亮相中国国际电力设备及技术展览会
11月18日,第三十二届中国国际电力设备及技术展览会在上海新国际博览中心盛大启幕。大华股份携子公司华感科技、华消科技重磅参展
2025-11-19 13:58:00
2025咪咕生态大会启幕,“微短剧 +” 跨界融合共筑内容新生态
11月18日,以“焕彩同行,价值共生”为主题的2025咪咕生态大会在京举行。现场,咪咕数字传媒有限公司携手合作伙伴,聚焦微短剧生态发展
2025-11-19 08:26:00
奋进的河北·“十四五”答卷丨身边的“十四五”(三):生产线上的产学研
整理/河北日报记者 王璐丹 制图/孙 涛从破解脑蛋白药物的“黑匣子”,到打破氢能隔膜的进口依赖,再到让机器人在高空“举重若轻”……近年来
2025-11-19 08:30:00
厦门网讯(厦门日报记者 应洁)美妆等零售新业态增长迅速、打造集美咖啡季品牌、持续开展“集美欢乐购”促消费活动……昨日,集美区相关领导接听市12345政务热线
2025-11-19 08:46:00
近日,阿里巴巴正式宣布启动“千问”项目,同时,千问APP公测版上线。千问APP公测版凭借免费以及与各类生活场景生态的结合
2025-11-19 09:39:00
社交平台如何兼顾用户的理性与感性需求?米连科技给出答案
在当代婚恋市场,一个明显的趋势正在形成:年轻人越来越追求“理性择偶”,而经历过人生起伏的中年人则更看重“情感共鸣”。这两种看似不同的需求
2025-11-19 10:27:00
“深海一号” 首次搭载青岛联通船载5G专网融合通信系统 系统创新性可靠性在深远海极区场景得到全面验证
鲁网11月19日讯近期,青岛联通船载5G专网融合通信系统首次搭载于“深海一号”科考船赴深海大洋极区,“大流量、低时延、超稳定”的卓越性能在低温
2025-11-19 09:29:00
11月17日从中北高新区获悉,山西中北测控科技有限公司自主研制生产的加装测量存储系统圆满完成航空航天领域使用场景验证,各项性能指标均达到行业领先水平
2025-11-18 08:20:00
烟台工程职业技术学院成功入选国家级“IITC工信人才AI实训云平台”首批应用院校
鲁网11月18日讯近日,工业和信息化部人才交流中心公布了“IITC工信人才AI实训云平台”首批应用院校名单,烟台工程职业技术学院凭借在数字化基础设施与产教融合方面的深厚积淀
2025-11-18 15:49:00
OPPO Reno15 系列正式发布,潮流实况玩法“超出圈”
2025年11月17日,成都——OPPO正式发布全新一代Reno15系列手机。作为潮流与实况照片引领者,Reno15系列行业首发全息光刻工艺
2025-11-18 15:54:00