• 我的订阅
  • 头条热搜
大模型将成企业“必需品”,服务器如何跟上算力新需求?
数字化的浪潮中,算力无处不在。专为数字化而生的原生算力成为激活企业数据要素潜能、驱动企业创新发展的新动能,是企业数字化转型时期的关键业务核心竞争力。人工智能应用的异军突起使企业在原生算力方面缺口进一...……更多
...增速下游PCB又称印刷线路板,是几乎所有电子设备的基础必需品。据Prismark估测,2023年全球PCB产值约为695.17亿美元,同比下降约14.96%,而PCB产出面积同比仅下降约4.7%,与产出面积相比,PCB产值的急剧下降凸显了严重的价格侵蚀...……更多
AI服务器缺货真相调查:两天涨价30万,连“味精大王”都入场了
几乎是一夜之间,AI服务器价格在国内市场中飙升。智东西从一位服务器渠道销售人员处得知,搭载英伟达A800 GPU的热门AI服务器型号的价格已达140~150万元/台,比今年6月上涨超40%;搭载8颗英伟达H800 GPU的AI服务器价格上涨则更离...……更多
模型即服务,卓世科技MaaS平台 2.0 正式上线
...型部署:将训练好的模型部署到生产环境中,可能包括云服务器、边缘设备或特定硬件上。 2、API集成:提供API接口,使得模型可以被其他应用程序调用,实现模型服务的快速集成。 3、应用开发框架:提供一套框架和工具,帮...……更多
生成式AI时代:AI服务器前景广阔,浪潮信息营收大增8成
...而底层所支撑的是算力,包括高性能AI芯片以及高性能AI服务器支撑,为高效AI服务器提供了更广阔的发展空间。其中,浪潮信息作为全球服务器市场重要玩家,受益算力需求,营收也恢复了增长。2024年第一季度营收176亿元,同...……更多
企业模型:中国To B市场的一道曙光
...目之一。Fast5000E是滴普科技与华为昇腾共同发布的一款AI服务器,搭载滴普科技Deepexi,能够为企业落地大模型提供训练与推理算力一体化解决方案,是滴普科技在算力层面的重要部署。04. 打破执念,正视服务的价值按照常规的...……更多
蚂蚁数科SOFAStack发布全栈AI服务,助力企业用好大模型
...使得有限的GPU资源可以高效的被利用起来,同时大大降低服务器使用成本;在应用层,企业可以根据业务需求快速输出定制化的AI模型,构建服务业务需求的智能体,极大地简化了技术实施过程。当企业开始构建大模型应用,还需...……更多
专精特新下半场:AI算力驱动竞争力升级|专精时氪直播回顾
...北京华恒盛世科技有限公司副总经理王文星、UCloud优刻得服务器中心及AI算力负责人丁振雷受邀做客36氪“专精时氪”直播间。三位嘉宾结合自身经历及企业实践,分享了对于AI算力话题的相关见解和众多精彩案例,以下为对话精...……更多
比GPU性价比高百倍!Cerebras推出新AI推理服务,号称“全球最快”
...无需支付费用。2、开发者层级:这一层级专为灵活的无服务器部署设计,为用户提供一个API端点。相比于市场上的大多数方案,其成本要低得多。对于Llama 3.1 8B和Llama 3.1 70B模型,每百万tokens的价格分别是10美分和60美分。未来,...……更多
戴尔科技:夯实AI时代“算力底座”,让每一分算力“物尽其用”
...经成为业界的普遍认同。数据中心基础设施,尤其是算力服务器,作为数据要素的核心载体和产业融合的桥梁,正在发挥着类似水和电在产业赋能和企业数字化转型中的基础性作用。它们不仅为产业提供动力,更是中国数字经济...……更多
AI大模型应用商机:“AI+”还是“+AI”
...力需求快速增长,基础设施的业绩成长的可预见性最高,服务器、数据中心等产业链关键环节值得关注。AI大模型的应用,还将为交互终端带来更大发展动能。当前,AIPC、AI手机是大模型应用的主要载体,随着AI大模型能力的不...……更多
...房的企业也面临新的利旧难题。很多企业都有大量的存量服务器,他们希望能够利旧已有设备,对自有机房的服务器进行自动化管理,搭建一套裸金属算力平台,在不增加额外成本的前提下,实现裸金属服务本地化纳管,线上可...……更多
需求爆发,价格上涨!算力租赁模式受追捧,国内外厂商纷纷布局
...又如何?在上海普陀区的一家算力服务企业,几十台算力服务器被整齐摆放,即将发往算力中心。负责人表示,今年算力租赁行业迎来爆发期,公司在建的算力中心数量,已经从去年的个位数,增长到今年的两位数。在江苏常州...……更多
AI行业深度研究:乘大模型之风,AI芯片元老寒武纪再度起航
... 时间高景气,据 IDC 及 TheNextPlatform 统计,2023 年全球 AI 服务器 市场 规模预计将超 500 亿美元,2027 年预计将超 946 亿美元。在这一场科 技盛 宴中,Nvidia 凭借前瞻的布局、CUDA 生态的壁垒、从 P100 到未来 R100 芯 片的快速……更多
大模型如何赋能千行百业?听听企业怎么说
...两大高效、智能、安全的智算中心,可提供从数据中心、服务器、到计算、存储、网络、安全、架构设计的全栈式AIGC算力解决方案,具备智算基础设施、智能调度平台、智算应用快速部署等服务能力,为AI大模型提供稳定可靠的...……更多
CPU,正在被AI时代抛弃?
...性和数据的安全性。但这也就愈发让我们好奇,作为通用服务器,CPU在AI时代可以发挥怎样的优势?其背后的技术原理又是什么?1、AI时代,CPU是否已被被边缘化?提起AI训练和AI推理,大家普遍会想到GPU更擅长处理大量并行任务...……更多
百川智能、阿里云等进入开源大模型领域,开启商业化前奏
...消息称三星担心传输至生成式AI平台的数据被存储在外部服务器上,已禁止员工使用ChatGPT、谷歌Bard等生成式AI工具。开源之后对大模型企业而言,开源与闭源并不矛盾,企业在开源与闭源、收费与免费之间选择,阿里云是在闭源...……更多
ChatGPT引爆新一轮科技军备赛
...更大的选择和想象空间。黄峻介绍说:“我们用A100的云服务器训练AI,单个项目迭代500张图大概需要1天的时间。”因为AI模型是开源的,所以AI绘图外包的成本不高,目前AI绘图工作室的主要成本在于人类画师对AI的训练,以及训...……更多
阿里云李中雨:阿里云助力中小企业逐浪AI时代|新质生产力·AI Partner大会
...方面,无论是自动化在前端IOT以及运维平台,还是在平时服务器、数据中心、运维中心的数据,都需要经过大模型、一套运维人工智能来供应。在生产和供应还会用大模型技术来进行生产预测、销量预测,这样能够把我们在需求...……更多
Sora强化算力投资主题,领先厂商持续打开估值成长空间
...强,当前以全球视角来看,算力产业链从上游硬件、中游服务器/交换机、下游应用侧闭环现愈发清晰,从云侧到端侧、从硬件到软件均呈现生机勃勃之景。Sora推动AI算力投资价值不断增强,相关领域具备领先优势的企业也将持...……更多
亏了13年的阿里云刚赚钱,怎么就被逼着五折大促销了?
...的需要,自建云都是一条 “ 不归路 ” 。 一旦你用上云服务器,新的问题就出现了。云计算的需求是由 “ 最高峰时的算力需要 ” 决定的,这就是所谓的弹性。但在平时,企业用到的算力可能是峰值的 1/3 甚至更少。这你不能...……更多
CybotStar——大模型一站式应用开发平台
...助开发者实现AI原生应用开发。CybotStar采用公有云、私有服务器、软硬一体等灵活的部署方式,支持IDE插件、适配网页、API、IM办公软件多元场景,适用于各种任务和部署环境。CybotStar聚焦四大核心能力,助力产业机构竞逐AI新时...……更多
戴尔以技术创新推动AI基础架构升级
...元,环比增长 10%。戴尔科技业绩回升主要得益于AI优化的服务器业务的增长,本季度AI服务器订单增长了40%,积压订单近乎翻倍达到29亿美元,而前一季度仅为16亿美元。戴尔科技的AI服务器业务增长是整个基础设施市场变化的一个缩...……更多
自定义Llama 3.1模型的利器来了!NVIDIA打造生成式AI代工厂,还有加速部署的微服务
...构建NVIDIA NIM推理微服务,以便在其首选的云平台和全球服务器制造商提供的NVIDIA认证系统上,使用自己选择的最佳机器学习运维(MLOps)和人工智能运维(AIOps)平台在生产中运行这些模型。NIM微服务有助于将Llama 3.1模型部署到...……更多
外滩大会观察:AI产业实践呈现六大趋势 下一代超级应用是智能体
...提升大模型性能至关重要,数据能力成为每家公司AI战略必需品,一批新型数据服务公司涌现,为企业提供数据合成、隐私安全、多模态数据处理能力。专业领域应用成大模型技术加速发展的“探照灯”。大模型将在产业实用价...……更多
豆包大模型综合能力提升20.3%,火山引擎成立零售大模型联盟
...了“算力孤岛”和“数据孤岛”问题,结合火山引擎自研服务器、自研 DPU 卡、调度算法等技术能力,火山引擎 AI 全栈云在性能、稳定性和成本上具备了更大的优势。在模型推理场景中,可针对不同体量模型,提供类型丰富、灵...……更多
大模型商业化模式详解:烧钱之后如何挣钱?
...或者一站式服务。服务内容不仅包括大模型系统,还包括服务器等硬件产品等一站式解决方案。如近期清华大学准备花费700万元,公开采购大模型系统教学实践平台。该采购不仅包括大模型系统,还包括24台服务器(GPU的FP32计算...……更多
厦大教授团队自主研发的思源大模型“霸榜”权威榜单,“优等生”是怎样炼成的?
...一个突出的特色在于,我们的边端计算是部署在低成本的服务器上,价格足够低。由于我们对大模型的结构做了大量优化,在保持功能不变或者基本不变的情况下把大模型的价格“打下来”。同时,我们做了大量边缘端的补充,...……更多
宝德加速计算服务器市场规模再创新高,荣登中国NO.2
近日,赛迪顾问《2023-2024年中国服务器市场研究年度报告》正式出炉,报告深入分析了2023-2024年中国服务器市场的竞争格局和发展趋势。宝德凭借出色的市场表现和技术实力,成功从先前的中国加速计算服务器市场第三名跃升...……更多
对话腾讯汤道生:大模型和云一样,难以被垄断|36氪专访
...体架构,就比传统做法性价比更高。最近推出的新一代云服务器,基于性价比更高的Bergamo芯片,也能给到客户更低的单位计算成本。当然,还有一些培育期的业务,比如像大模型业务,还是在投资早期阶段,我们也愿意继续投...……更多
更多关于科技的资讯:
拍拍照就能赚钱 “寄拍模特”真这么香?有女子被骗10万
快科技9月15日消息,“在线急招兼职试衣模特,免费寄拍衣服,每单还能返利数十到上百元不等!”这样的话术,可能是“寄拍模特”骗局
2024-09-15 07:49:00
亚洲最年轻的纳斯达克敲钟人 何猷君入手比亚迪腾势Z9GT
快科技9月15日消息,武汉星竞威武公司董事长、澳门电竞总会会长何猷君宣布,已经支付腾势Z9GT的订金,正在等提。比亚迪腾势销售事业部总经理赵长江转发道
2024-09-15 07:49:00
鸿蒙智行:一二线城市10分钟就有1个充电站 高速上平均20分钟就有1个
快科技9月15日消息,华为终端昨日发表了问答文章:享界S9答网友热门问题(第一期)。对于很多车主关心的“当前充电网络的覆盖情况怎么样
2024-09-15 08:19:00
男子提供有偿代骂每单收费240元 已骂400余人
快科技9月15日消息,据央视新闻报道,公安部今天发布的10起典型案例中,有一起“有偿代骂”网络暴力案,犯罪嫌疑人为牟取非法利益
2024-09-15 08:19:00
霄龙4124P处理器玩上超频:使用B650主板冲上6.6GHz
在5月份AMD正式推出了全新的EPYC(霄龙)4004系列服务器处理器,基于与消费级锐龙7000系列相同的架构,是AMD首款采用消费级处理器接口的EPYC处理器
2024-09-15 08:19:00
75年·75人 | “碳”寻新路 车圈出圈
王景山王景山向本报记者介绍碳纤维车圈。 人物名片王景山1966年出生,南平人,早年在农村老家做木材生意。1994年来厦创业
2024-09-15 08:46:00
8年来最强中秋台风!“贝碧嘉”今夜直扑江浙沪
快科技9月14日消息,据中央气象台预测,中秋假期(9月15日至17日)期间,台风“贝碧嘉”将登陆我国华东沿海,并给江浙沪等地带来强风雨天气
2024-09-15 08:49:00
女子骑电动自行车看手机 发生无接触事故 摔倒后继续玩手机
快科技9月15日消息,当代社会对手机的依赖日益加深,机不离手已成为普遍现象。然而,因分心看手机而导致的事故也屡见不鲜。日前
2024-09-15 08:49:00
长城灵魂摩托谈价格:每个零部件都是业内极品 收藏价值远高于售价
快科技9月15日消息,日前,长城灵魂CEO赵胜广在2024中国摩博会现场解答了,长城灵魂摩托车摩友们最关心的问题。赵胜广表示
2024-09-15 08:49:00
ZAKER科技9月14日消息,9月13日晚上8点iPhone16系列正式开启预购,据网友反馈抢购情况热烈,苹果商店一度出现15分钟依然未能进入的盛况
2024-09-15 09:04:00
意大利查获大量中国产山寨复古游戏机:价值超3.7亿元
快科技9月15日消息,据报道,意大利金融警察周五表示,他们捣毁了一个从中国走私假冒复古视频游戏机的团伙,这些游戏机包含了80年代和90年代一些最受欢迎的游戏
2024-09-15 09:19:00
阿斯加特全球首发CUDIMM DDR5-9600内存:马上破10GHz!
快科技9月15日消息,阿斯加特宣布,全新规格的CUDIMM DDR5 9600MHz内存已经登场,创造行业新高,相比于之前的9200MHz频率版本再进一步
2024-09-15 09:19:00
菊花会呼吸、鸽子开导弹 搞笑诺奖它又来了
欢迎大家来参加第 34 届首届搞笑诺贝尔奖的颁奖典礼,我小辣椒可想死它了!!别问为啥又是首届,这是大自然的规律比起下个月
2024-09-15 09:19:00
特斯拉:第1亿个4680电池下线!
快科技9月15日消息,特斯拉宣布其标志性的第1亿颗4680电池正式下线。这一里程碑事件标志着特斯拉在电池生产领域取得了显著进展
2024-09-15 09:49:00
A18 Pro跑分再次刷新:多核成绩超越M1
在9月11日iPhone 16 Pro Max的跑分现身GeekBench网站,单核成绩是3018,多核成绩是7751
2024-09-15 09:49:00