• 我的订阅
  • 头条热搜
有了它,断网也能“纵享丝滑”
...网络,如果网络不稳定,信号覆盖不到或者信号质量差,服务器处理能力不行的情况下,它的识别会非常不稳定。其次就是云端无法保证用户的隐私安全,存在泄漏风险。再就是云端的运行成本非常高,因为它要搭建,涉及到搭...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
... ASIC。通过专门化,Sohu获得了前所未有的性能。一台8xSohu服务器每秒可以处理超过50万个Llama 70B token,等效于160块H100 GPU。Sohu仅支持Transformer推理,并支持当今所有的模型(Google、Meta、Microsoft、OpenAI、Anth……更多
AI手机没有独家大模型供应商
...是一项长期消耗成本、且暂时还无法停下的趋势,无论是服务器消耗的电力、相关研发等都需要持续的投入。算法交易公司Deep Trading就曾指出,ChatGPT4以1.8亿用户基数和每人100Ktoken/天计算,每日成本就高达88.2万美元。此前vivo副...……更多
够21万人喝一辈子的水 还不够谷歌服务器用7个月
...水?今天就来跟大家聊聊,那些互联网巨头们都是怎么给服务器散热的。有什么办法,能把杭州西湖的水给用完?这是杭州西湖,三面环山,面积约6.39平方千米,南北长约3.2千米,东西宽约2.8千米,水体容量约为1429万立方米。...……更多
大模型价格战“卷”向何方?|深度
...掀起了“降价潮”,阿里、百度、腾讯等纷纷加入战团。大厂“钱多、卡多、算力足”无惧价格战,以惯有的免费模式先聚集用户与开发者。中小大模型创业公司普遍还在勒紧腰带苦苦打造爆款应用,也不得不匆忙接招。大模型...……更多
大厂抢做ChatGPT,百度能否狂飙?
...这方面有许多优势。比如在算力方面,做搜索的公司都有服务器集群。在数据积累和自然语言处理方面,搜索引擎本身需要每天在全网爬取所有的网页,而人类真正积累的知识库就存在在这些网页里;同时搜索本身就需要做大量...……更多
AI时代不甘落后:英特尔全新软硬件平台助力企业加速创新
...外机架密度也是上代的2.7倍。英特尔称72个机架的新一代服务器就能完成过去200个机架服务器的工作量,差不多节省了1兆瓦的功率,能够满足1300个家庭的能源需求。 在边缘计算上,英特尔AI硬件也同样给力,预计到2030年,边缘...……更多
手搓AI大模型应用获25万用户,果断辞职创业,结果收入不如摆摊
...本,并构建了自己的消息服务(这是最难的部分),所以服务器成本每月不到 500 美元。终于,作者对 50% 的月度增长感到信心十足,应该会持续增长,然后开始赚钱了吧。4 个月前,此人辞去了工作,开始了创业之路。明星 AI ...……更多
割韭菜!第一批炒作ChatGPT的人已套现离场,海天瑞声、汉王被高位减持
...公布的对话式大型语言模型,热情的用户涌入一度导致其服务器被挤崩。随后,MOSS官方致歉就曾表示,模型还不成熟,距离ChatGPT还有很长的路需要走。“我们一个学术研究的实验室无法做出和ChatGPT能力相近的模型,MOSS只是想...……更多
百川智能、阿里云等进入开源大模型领域,开启商业化前奏
...消息称三星担心传输至生成式AI平台的数据被存储在外部服务器上,已禁止员工使用ChatGPT、谷歌Bard等生成式AI工具。开源之后对大模型企业而言,开源与闭源并不矛盾,企业在开源与闭源、收费与免费之间选择,阿里云是在闭源...……更多
AI泡沫不可避免!李彦宏敲响警钟:PMF是生存关键
...其中人工成本最低,每年“仅”需约15亿美元;租用微软服务器为ChatGPT及底层LLM提供动力的推理成本,一年约40亿美元;包含数据费用在内的训练成本,一年则需要约30亿美元,未来则将突破100亿美元。至于中国AI领先者百度,在...……更多
疯狂一夜!美国AMD、谷歌纷纷亮出大杀器,人类迎来巨变前夜?|钛媒体焦点
...更多是针对生成式 AI 所研发的训练芯片。每个TPU v5p pod(服务器组)都由8960个芯片组成,它通过TPU带宽最高的芯片间互连(ICI)以每秒4800Gbp速度在3D拓扑结构中连接。与TPU v4相比,TPU v5p的Flops性能提高了2倍以上,高带宽内存(H...……更多
模型即服务,卓世科技MaaS平台 2.0 正式上线
...型部署:将训练好的模型部署到生产环境中,可能包括云服务器、边缘设备或特定硬件上。 2、API集成:提供API接口,使得模型可以被其他应用程序调用,实现模型服务的快速集成。 3、应用开发框架:提供一套框架和工具,帮...……更多
半导体行业市场热度不再,AI、车芯未来能否力挽狂澜?
...。英特尔CEO帕特·基辛格在第一季度财报会议上表示,在服务器方面,第一季度消费市场规模环比和同比均加速下降,英特尔预计2023年上半年总体市场规模将持续同比下降,下半年将迎来适度回升。CIC灼识咨询合伙人赵晓马此前...……更多
【科技早报】联想、英特尔、爱奇艺签署谅解备忘录;国内低轨卫星通信测试成功
...“云工开物”计划,给中国所有在校大学生每人送一台云服务器在10月31日举办的2023云栖大会上,阿里云首席技术官周靖人发布阿里云高校计划“云工开物”,计划将为中国所有在校大学生免费提供一台云服务器,所有高校学生...……更多
最前线 | APUS发布千亿级天燕大模型AiLMe,toC应用发力,toB服务蓄力
...;在算力层面,APUS在郑州和新加坡分别部署了几千台CPU服务器,为AiLMe的训练提供充足的算力。缓解“算力焦虑”,这是AiLMe技术路径带给行业的启示。张旭告诉36氪,AiLMe在训练过程中并未一味地扩张参数,而是使用了更多的数...……更多
昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
...用并落地的开源千亿MoE大模型,也是首个支持用单台4090服务器推理的开源千亿MoE大模型。开源地址Skywork-MoE的模型权重、技术报告完全开源,免费商用,无需申请。模型架构本次开源的Skywork-MoE模型隶属于天工3.0的研发模型系列...……更多
若愚科技推出九天机器人大脑,大模型总参数规模达130亿 |项目报道
...用功能。若愚九天机器人大脑架构若愚科技选择将和头部服务器厂商合作,通过服务器厂商的核心需求,来覆盖不同领域的70%、80%的场景。未来,公司计划在与中长尾客户合作时,进一步增加客户需要的功能。若愚科技已经完成...……更多
复旦MOSS回应服务器被挤崩:模型还不成熟,距离ChatGPT还有很长路要走
....fastnlp.top/),但当晚不少测试的网友发现,MOSS 已经显示服务器流量过载,只能第二天再重试。我们从 MOSS 官网获悉,复旦 MOSS 团队发布公告称:非常感谢大家的关注,MOSS 还是一个非常不成熟的模型,距离 ChatGPT 还有很长的路...……更多
4月17日,浪潮信息与英特尔(Intel)联合发布AI通用服务器NF8260G7,在业界首次实现服务器基于通用处理器支持千亿参数大模型的运行,灵活满足基于大模型的AI应用及云计算、数据库等通用场景,为企业大模型应用落地提供更高效...……更多
算力市场格局生变,谁能“拔得头筹”?
...,仅使用了业界普通训练方案9%的算力资源,基于112台A800服务器,用时4个月完成了3个模型总计2.3Ttokens的训练。6月17日消息,江苏鲲鹏·昇腾生态创新中心首席运营官王陶日前公开表示,昇腾集群是国内唯一已完成训练千亿参数...……更多
英伟达带来最强AI芯片,但赶超苹果又远了一步?
...伟达的新一代芯片平台。基于该平台,英伟达提供有多种服务器节点规格,性能从小到大依次为:HGX B100,HGX B200,以及GB200 NVL72。HGX B100配备x86 CPU和8个B100 GPU。HGX B200使用8个B200 GPU 和1个x86 CPU。最强大的GB200 N……更多
CPU,正在被AI时代抛弃?
...性和数据的安全性。但这也就愈发让我们好奇,作为通用服务器,CPU在AI时代可以发挥怎样的优势?其背后的技术原理又是什么?1、AI时代,CPU是否已被被边缘化?提起AI训练和AI推理,大家普遍会想到GPU更擅长处理大量并行任务...……更多
为AI加速而生 英特尔第五代至强CPU带来AI新表现
...场展示了搭载第五代至强®️ 可扩展处理器的新一代自研服务器所呈现的能力——全部以超过20%的性能提升“姿势”亮相!具体而言,京东云与上一代自研服务器有了如下的性能提升:• 整机性能提升达123%;• AI计算机视觉推理性能...……更多
Sora横空出世 互联网大厂将却未来几年的命运交给了?
...10亿美元,为OpenAI提供支撑大模型开发所需要强大算力的服务器;2021年,微软又向OpenAI追加了20亿美元的投资;直到2023年12月,OpenAI凭借聊天机器人ChatGPT一炮而红,微软顺势在2024年1月增加投资100亿美元。 大笔投入技术,这让...……更多
新质生产力|贵州南智云谷:“山谷”里造智算“引擎”
...地此处已有10年。如今,在企业机房内,一排排机柜中的服务器24小时不间断运转,服务器“生产”的算力,也源源不断输送给省内及东部地区的算力需求方。南智云谷正在全力建设全国一体化算力网络国家(贵州)枢纽安顺分...……更多
2023年AI的钱被谁赚走了?
...GPGPU架构为基础,兼容通用的“类CUDA”环境,主要部署在服务器集群或数据中心,能够支持全精度模型训练,实现LLaMa、GPT、Bloom、ChatGLM、悟道、紫东太初等为代表的大模型的全面应用,与国内包括文心一言等大模型全面适配。2...……更多
生成式AI时代:AI服务器前景广阔,浪潮信息营收大增8成
...而底层所支撑的是算力,包括高性能AI芯片以及高性能AI服务器支撑,为高效AI服务器提供了更广阔的发展空间。其中,浪潮信息作为全球服务器市场重要玩家,受益算力需求,营收也恢复了增长。2024年第一季度营收176亿元,同...……更多
史上最快AI芯片「Sohu」,速度10倍于B200,哈佛辍学生打造
...才推出的顶配芯片 B200 也要快上超过 10 倍。一台 Sohu 的服务器运行 Llama 70B 每秒可输出超过 50 万个 token,比 H100 服务器(23,000 个 token / 秒)多 20 倍,比 B200 服务器(约 45,000 个 token / 秒)多 10 倍。……更多
微软被曝正自研AI大模型:5000亿个参数,与谷歌和OpenAI竞争
...。为了训练该模型,微软已经配置了大量包含英伟达GPU的服务器集群,并从各类来源收集训练数据,包括由OpenAI的GPT-4生成的文本和公共互联网数据。这或将使MAI-1与OpenAI的GPT-4处于相似的水平,据传后者拥有超过1万亿个参数。Ph...……更多
更多关于科技的资讯:
六款车型AEB躲避假人实测:国产车全部过关 仅特斯拉翻车
快科技11月11日消息,近日,“第一智驾”团队进行了一次六款车型AEB躲避假人实测。参与测试的车型分别为理想L6、小鹏G9
2024-11-11 22:16:00
江南时报讯 11月10日,由中国通信学会、中国电子学会主办的2024年全国物联网技术与应用大会在无锡举行。中国通信学会长三角创新助力中心入驻仪式举行
2024-11-11 22:29:00
一加Ace 5系列曝光,会是骁龙8至尊版的“焊门将”不?
一加将发布人们期待已久的Ace5系列。虽然细节有限,但越来越多多的信息正在浮出水面。让我们探索一下新型号将提供什么。数码博主智慧皮卡丘带来最新消息
2024-11-11 22:33:00
又是最强!荣耀300系列月底见
最新消息透露了荣耀300Pro/Pro+的主要规格,包括显示屏、摄像头和芯片组。博主数码闲聊站重点介绍了荣耀300Pro/Pro+机型的显示屏
2024-11-11 22:33:00
华为Mate70高配版将用新索尼影像传感器
供应链消息人士透露,华为Mate70的高端版本将采用索尼新的主摄像头传感器。这个新的传感器可能是Pura70Ultra智能手机上出现的IMX989主镜头的改进版本
2024-11-11 22:34:00
Oppo Find N5将于2025年上半年推出
Oppo正准备推出下一款可折叠智能手机OppoFindN5。该设备将作为OppoFindN3的继任者,据传闻,它将于2025年第一季度发布
2024-11-11 22:34:00
HarmonyOS NEXT为公测用户带来新的屏幕阅读功能
华为HarmonyOSNEXT5.0.0.102公测更新带来了一个新增屏幕阅读功能。虽然这版本上周已经推出了轻碰一碰分享功能
2024-11-11 22:34:00
2024年Q3全球最畅销智能手机排行榜揭晓:毫无悬念
全球智能手机市场已经成为一个竞争激烈的舞台,苹果、三星、小米和华为等领先品牌不断争夺主导地位。这种激烈的竞争为消费者提供了多种选择
2024-11-11 22:34:00
等等党又赢了,一加Ace 5系列才是一加的新王炸
11月11日,获得消息称,一加即将发布的Ace5系列将保留其家族式外观设计,同时质感或将成为子品牌(如Redmi、iQOO
2024-11-11 22:34:00
苹果iPhone 18 Pro标配可变光圈 落后华为4年
外媒报道称,在明年的iPhone17系列手机中,至少会有一款手机配备可变光圈镜头,这款手机只可能是iPhone17ProMax
2024-11-11 22:35:00
王腾称Redmi K70已停产:K80更强,已在路上
近期,很多消费者发现,RedmiK70系列手机已经停产。对此,小米中国区市场部副总经理、Redmi品牌总经理王腾在社交媒体平台表示
2024-11-11 22:35:00
realme新机入网:双圆镜头模组设计,紫色机身
时间来到2024年11月中旬,各大智能手机厂商的年度旗舰手机都已悉数登场。不过这并不是新机发布潮的结束,接下来中端旗舰或许也会随之问世
2024-11-11 22:35:00
卢伟冰官宣:小米15系列手机销量已破百万台
2024年11月8日,知名数码博主“数码闲聊站”爆料称,目前小米15系列的激活量接近80万台,突破百万台大关指日可待。本以为双十一后
2024-11-11 22:35:00
iQOO 13游戏满分答卷 骁龙8至尊版盘活性能
近期的手机市场是旗舰款的天下,搭载新一代旗舰芯片的手机接连推出。想要从中选择一款主打高性能的手机,iQOO13则是不错的选择
2024-11-11 22:36:00
明年5月发布 华为影像旗舰Pura 80系列有期待
华为旗舰手机Mate70系列预计将在本月发布,而华为的影像旗舰Pura80系列,则要等到2025年了。据爆料者透露,华为Pura80系列会在2025年5月推出
2024-11-11 22:36:00