• 我的订阅
  • 头条热搜
红杉资本公布全球前50大AI公司,但不见中国企业;苹果首款AI PC芯片将于6月发布|钛媒体AGI
...中国 AI 企业身影——目前中国已经有超过300家企业做大模型,数万家企业涉足于 AI 产业链当中。而与此同时,据路透社最新报道,OpenAI公司CEO奥尔特曼(Sam Altman)向大公司推销 ChatGPT Enterprise企业版,其中包括一些微软客户,...……更多
AMD最强AI芯片发布:性能是英伟达H100的1.3倍!
...推出的Gaudi3将提供144GB的容量。大型内存池在LLM(大语言模型)中非常重要,LLM大多是与内存绑定的,AMD可以通过在HBM内存容量上的领先地位来提升器人工智能能力。具体来说,AMD的MI300X与英伟达的H100加速器相比:内存容量提高...……更多
llava-1.6与gpt-4vmp面硬刚的性能,一起来看看
...-Plus,与GPT-4V正面硬刚,这个有着SOTA级别性能的多模态大模型真正做到了“人无我有,人有我优”。继2023年4月的初级版本、2023年10月的LLaVA-1.5之后,2024年1月31日,微软研究院又联合威斯康星大学麦迪逊分校和哥伦比亚大学的研...……更多
微调大模型,AMD MI300X就够了!跟着这篇博客微调Llama 3.1 405B
随着 AI 模型的参数量越来越大,对算力的需求也水涨船高。比如最近,Llama-3.1 登上了最强开源大模型的宝座,但超大杯 405B 版本的内存就高达 900 多 GB,这对算力构成了更加苛刻的挑战。如何降低算力的使用成本和使用门槛,...……更多
微软开源爆火1bit大模型推理框架!千亿参数模型量化后单CPU可跑
微软开源1bit大模型推理框架!现在1000亿参数大模型量化后单CPU可跑,速度可达每秒5-7个token。就是今年爆火论文The Era of 1-bit LLMs的官方代码实现,开源不到一周GitHub已揽获7.9k Star。传统大模型参数以16位浮点数(如FP16或BF16)形...……更多
【科技早报】联想、英特尔、爱奇艺签署谅解备忘录;国内低轨卫星通信测试成功
...AI PC,并表示AI PC将是能够创建本地知识库,运行个人大模型,支持人工智能计算,运用自然交互的更强大、更具创造能力的智能生产力工具。(证券时报) 网易在成都成立两家新公司天眼查App显示,10月26日,成都协奏影画科...……更多
今早,黄仁勋宣布:最强AI芯片来了
...是一举飙到2.2万亿美元,崛起速度之快令人咋舌。当AI大模型席卷全球,掌握着算力的黄仁勋和英伟达不出意料的成为最大赢家。现在,在他的身后正有一批挑战者迎头赶上。最强AI芯片诞生黄仁勋坐拥2.2万亿美元黄仁勋又带来...……更多
...道”,该公司一直在秘密使用OpenAI的技术开发自家大语言模型,这违反了OpenAI的服务条款。目前,字节跳动的账户已被OpenAI暂停。据媒体报道,在AI领域,字节跳动的这一做法通常被视为一种“失礼”行为,也直接违反了OpenAI的...……更多
小模型正在成为AI界的新宠
大模型的发展已经进入了万亿级参数时代。DeepMind 联合创始人穆斯塔法・苏莱曼(Mustafa Suleyman)预测, 仅在未来三年内,大模型规模以惊人的速度继续扩张,将增长 1000 倍。一方面,模型的参数量与其能够处理和学习的复杂性...……更多
PyTorch官宣:告别CUDA,GPU推理迎来Triton加速新时代
...0%的Triton内核Pytorch最近发表了一篇技术博客,他们以两个模型——Llama3-8B和IBM的Granite-8B Code为例,100%使用Triton内核实现了FP16推理。Granite-8B Code是由IBM开发的一种仅限解码器的代码模型,专为代码生成任务设计。仓库地址:……更多
联想AI PC明年9月上市,黄仁勋苏姿丰同台宣布拓展AI合作
...l,让人工智能惠及每一个人”,并展示联想首款AI PC、大模型压缩技术、人工智能双胞胎(AI Twin)等一系列人工智能创新科技成果。作为PC(个人电脑)的龙头企业,联想的“朋友圈”足够豪华,英伟达CEO黄仁勋和AMD CEO苏姿丰...……更多
微软正在开发自研网络解决方案,以减少对英伟达网络产品的依赖
...作负载量身定制自己的高速网络硬件,可以加速人工智能模型训练,降低所需要的成本,并减少对英伟达网络产品的依赖。有消息人士透露,开发定制网卡需要大概一年多的时间,最终的设计可能提供800Gb/s吞吐量。从长远来看...……更多
大模型商业化模式详解:烧钱之后如何挣钱?
...觉中国文|冰鉴科技研究院距ChatGPT3.5发布已近一年,大模型狂热开始逐步降温:GPU禁运及长期烧钱的事实,让国内的大模型企业,不得不加速商业化考量。目前,大模型的B端应用已经出现各种定价方法,包括按照时间段收费、...……更多
响应速度碾压英伟达,AI芯片领域又出“王炸” 创始人豪言将把计算成本“降至零”
...领域。自从AI赛道大热以来,人们的关注点主要在各种大模型的竞争,OpenAI、谷歌、Meta等巨头和各种初创企业在软件层面“争奇斗艳”。而在硬件层面,似乎英伟达已经“一骑绝尘”,该公司生产的GPU芯片“一片难求”,全球AI...……更多
2024年台北电脑展回顾:知道大家都馋AI,但请你们先别急
...伟达表示一个1.8万亿参数以及8万亿Token的GPT-4级别的语言模型,使用Blackwell超算集群训练,能耗是过去的350分之一,单个token能耗更是降低了45000倍。极具膨胀的算力也带来了更多的可能,例如大规模地训练AI模型,让AI可以理解...……更多
黄仁勋对话扎克伯格:下一波AI浪潮是机器人,开源大模型将赢得胜利?
...绕生成式AI、开源技术等内容展开对话,并强调了开源大模型在推动AI发展中的重要性。对话下半场,他们围AR/VR计算平台和机器人浪潮等展开了讨论,指出下一波AI浪潮是机器人,而AR眼镜未来或替代智能手机。炉边谈话接近尾...……更多
微软研究院推出orca2llm
...MicrosoftResearch)近日发布新闻稿,推出了相比较主流语言模型更小的Orca2LLM,不过依然可以回答一些复杂问题。微软Orca2共有70亿和130亿两种尺寸,部分融合了Llama2LLM参数,通过融合定制的高质量合成数据,提供更准确、更优秀的...……更多
让机器人拥有人一样潜意识,英伟达1.5M小模型就能实现通用控制了
当机器人也有潜意识。大模型固然性能强大,但限制也颇多。如果想在端侧塞进 405B 这种级别的大模型,那真是小庙供不起大菩萨。近段时间,小模型正在逐渐赢得人们更多关注。这一趋势不仅出现在语言模型领域,也出现在...……更多
谷歌 VS OpenAI:当搜索霸主和屠龙少年迈入同一条河流
...觉中国文 | 硅基研究室,作者|山核桃鸽了太久的谷歌大模型 Gemini 终于来了。北京时间12月6日,谷歌在深夜发布了此前备受科技圈关注的Gemini 1.0,不仅一口气推出了Ultra、 Pro 和 Nano 三个版本,同时也在应用层,Gemini 也与谷歌...……更多
Cinebench R23 基准测试中跑分打破多线程性能记录
...作站和台式电脑设计的,但从跑分来看,在训练神经网络模型和AI推理场景下,表现也会非常优秀。根据截图显示,AIDA64GPGPU基准测试下,FP32(单精度)为 12.16TFLOPs,而FP64(双精度)下成绩为 6.0TFLOPs。英特尔酷睿i9-13900KCPU提供...……更多
本周硅谷发生了什么?| 高通第三代骁龙8;谷歌20亿美元追投Anthropic;联想拿出能跑大模型个人PC
...on CPU、骁龙8 Gen3等在内的王炸产品,后有联系拿出能跑大模型的个人PC。还有谷歌20亿追投Anthropic,并曝光多模态模型Gemini和工具Stubbs,将为用户更多便捷和创新的应用开发方式。Meta公布第三季度财报,实现23%的营收增长,是公...……更多
北京智源人工智能研究院林咏华:国内AI芯片的大模型训练性能与国外约有三年差距 【北京智源人工智能研究院林咏华:国内AI芯片的大模型训练性能与国外约有三年差距】《科创板日报》29日讯,北京智源人工智能研究院副院...……更多
从盟友到反目,马斯克起诉OpenAI!全球首部AI电影上映
...“开源对于防止权力集中很重要。到目前为止,每个大型模型都在某种程度上是‘可越狱的’。”马萨诸塞大学洛厄尔分校计算机科学教授JieWang则对记者表示,“未来各主要参与者都会将其大模型的某些部分开源,但绝对不是...……更多
Whisper 模型处理测试:英伟达 RTX 4090 比苹果 M3 Max 慢 86 秒
...比了英伟达的 RTX 4090 显卡。Wehrens 使用 OpenAI 的语音识别模型 Whisper 进行测试,主要测量转录 10 分钟音频文件所需时间。测试结果显示 M1 Pro 处理音频时间需要 216 秒,英伟达 RTX 4090 显卡处理时间需要 186 秒。而具有 76 个 GP……更多
AI开花云结果,美国三大云厂营收增速已达近两年高点
单纯的大模型可能很难直接产生高商业价值,但大模型和生成式AI,正在成为拥有云业务的大型科技营收增速攀升的核心引擎文 |《财经》研究员 吴俊宇编辑 | 谢丽容大模型和生成式AI(人工智能)是国内外科技公司近两年的重...……更多
Enfabrica推出全球最快GPU网络接口控制器芯片,获1.15亿美元融资
...这一点同样适用。对于训练上千亿甚至万亿参数的大规模模型来说,单个 GPU 的处理能力已经显得微不足道,计算任务往往需要由大型显卡集群协同完成。然而,当前 GPU 内存容量和性能正在迅速增长,但输入/输出(I/O)性能的...……更多
NVIDIA太贵 曝字节跳动正自研两款AI芯片!由台积电2026年前量产
...026年前实现这两款自研芯片的量产。这两款芯片分别针对模型训练和推理设计,其中一款用于加速构建人工智能模型所需的大量数据计算,即训练芯片。另一款则用于加速基于模型的预测和决策过程,即推理芯片,字节跳动已向...……更多
黄仁勋:我从不在乎市场份额、英伟达唯一目标是创造新市场
...理的增长将远大于训练的增长;闭源和开源将共存,开源模型可能用于创建特定领域的应用程序;……(以下为重点部分整理) Q:关于个人AI助理的发展前景,您认为我们何时能在口袋里装上一个无所不知的AI助理?A:很快就...……更多
智谱AI发布视频生成大模型,B站参与研发,亦庄提供算力|甲子光年
视频大模型进入百模大战。今年是“视频生成”大模型爆发元年。在过去两个月,我们看到了快手可灵、商汤Vimi、Luma AI、爱诗科技Pixverse、Runway Gen-3等等视频大模型的你追我赶。但上半年的视频生成大模型公司,往往只聚焦在...……更多
一大批人形机器人正被装上“最强大脑”,准备送进车厂打工!
...新中心进行了1.1亿元的战略投资。△图源:图虫创意AI大模型落地的催化下,人形机器人正在从设想走向现实。近日,时代周报记者调查走访了多家人形机器人企业,不少去年刚成立的人形机器人企业反馈已经开始接到了订单,...……更多
更多关于科技的资讯:
华为用户必看!换电池优惠50元、官方维修8.8折 错过等明年
快科技12月29日消息,距离2024年结束仅剩3天,华为服务回馈礼遇活动也将于12月31日正式收官,华为手机、平板等设备用户
2024-12-29 07:39:00
蔚来同步维权最新进展:多个账号被蔚来固定证据 已在多地法院起诉
快科技12月29日消息,蔚来汽车法务部日前发布消息称,和大家分享下公司近期依法维护自身权益的举措:“Super Wade”
2024-12-29 07:39:00
玉林迈入高铁时代 至南宁行程缩短至48分钟
快科技12月29日消息,近日,据官方获悉,南宁至珠海高铁南宁至玉林段(南玉段)将于12月30日开通运营,这标志着广西玉林迈入高铁时代
2024-12-29 08:09:00
SUV高速撞上隧道 发动机都被撞飞!司机:空调太暖 睡着了
快科技12月29日消息,公安部交通管理局今日分享了一起高速上疲劳驾车导致事故的案例。据介绍,12月18日凌晨4时许,浙江温丽高速向阳山隧道内
2024-12-29 08:09:00
京东何晓冬:AI大模型助力新质生产力 推动实体经济发展
本文转自:人民网京东集团副总裁、京东探索研究院院长何晓冬。人民网记者 翁奇羽摄人民网北京12月28日电 (记者王绍绍)在今日由人民网举办的“2024人民财经论坛”上
2024-12-29 08:22:00
女子半夜和男友吵架刷机票抢到3元票 平台:出票成功就能用
快科技12月29日消息,据报道,多位网友日前爆料称,自己抢到了海南航空明年1月4日从成都飞往北京的机票,票价3元,外加70元的机建燃油费
2024-12-29 08:39:00
量子AI+生物医药融合创新峰会在无锡滨湖举办
本文转自:人民网-江苏频道峰会现场。活动主办方供图。12月27日,量子AI+生物医药融合创新峰会在无锡滨湖区举办,峰会由图灵量子
2024-12-29 08:42:00
中国笔记本电脑最新销量出炉:联想销量销额双第一 AI PC立功
快科技12月29日消息,根据洛图科技发布的最新报告,2024年11月,中国大陆笔记本电脑线上公开零售市场的销量130万台
2024-12-29 09:09:00
韩国一客机发生坠落:机上载有181人 已有数十人死亡
快科技12月29日消息,据新华社报道,韩联社29日报道称,韩国务安机场飞机发生坠落,机上载有175名乘客,6名乘务人员
2024-12-29 09:09:00
“哪吒”航行器上天入海 创意奇思“落地生花”一批大学生创新创业成果亮相科交会,看似“不可能”的想法变成现实□南京日报/紫金山新闻记者 何洁“哪吒”不闹海了
2024-12-29 09:15:00
见“微”知著 敢为天下先
赵柏闻,1992年生,北京人。2004年起就读于人大附中,2008年进入中国农业科学院实习。2014年创立北京量化健康科技有限公司
2024-12-29 09:35:00
韩国载181人客机降落时撞击起火:全程被拍下 现场惨烈
12月29日消息,综合央视等报道,当地时间今日上午9时左右,一架韩国济州航空客机在韩国南部全罗南道务安国际机场降落过程中冲出跑道
2024-12-29 09:39:00
无人快递车撞上问界M9!车主:无人车跟碰瓷一样 减速后又加速撞了上了
快科技12月29日消息,据报道,杭州问界M9车主沈先生,在驾车出车位时,被后方驶来的一辆无人快递车撞上,交警判定沈先生主责
2024-12-29 10:09:00
AI教父辛顿发声:30年内AI致人类灭亡几率达10%-20%
快科技12月29日消息,2024年诺贝尔物理学奖得主、素有“AI教父”之称的辛顿(Geoffrey Hinton)表示
2024-12-29 10:09:00
2025年央视春晚主创团队官宣:于蕾任总导演
快科技12月29日消息,距离2025年除夕还有30天,中央广播电视总台《2025年春节联欢晚会》正在紧锣密鼓筹备中。今日
2024-12-29 10:09:00