• 我的订阅
  • 头条热搜
跨越算力鸿沟丨星凡科技2024AI算力集群产品发布会圆满成功
...单纯的计算资源提供者,他们需要向客户提供大模型训练推理等增值服务,以减少客户在模型开发过程中的成本负担,助力客户进行人工智能转型,从而实现双赢。”超新星分布式微算力中心——AICC建设运营高性价比选择本次...……更多
AI时代 CPU依然是中流砥柱!AMD EPYC树立新标杆
生成式AI的新时代下,无论AI训练还是AI推理,都对硬件算力提出了空前苛刻的极高需求,GPU加速器、FPGA/ASIC加速器等各种专用硬件变得异常火爆,在消费级端无论PC还是智能手机都纷纷加入了专用的NPU硬件引擎。这种情况下,CPU...……更多
中兴通讯引领算力时代:投资智能计算基础设施与大模型训练推理
...于算力领域,并致力于智能计算基础设施、大模型的训练推理算法以及工程优化的研究和开发。#中兴通讯绿色算力主力军#在算力领域,大模型的技术和应用已经成为一个趋势。大模型是一种基于深度学习技术的自然语言处理模...……更多
奥林匹克竞赛里选最聪明的AI:Claude-3.5-Sonnet vs. GPT-4o?
...异,近来Anthropic公司最新发布的Claude-3.5-Sonnet因在知识型推理、数学推理、编程任务及视觉推理等任务上设立新行业基准而引发广泛讨论:Claude-3.5-Sonnet 已经取代OpenAI的GPT4o成为世界上”最聪明的AI“(Most Intelligent AI)了……更多
16家头部大模型公司上海神秘碰头,现场人挤人人人
...最为关键的三大层面,即:算力层:用于基础模型训练和推理的基础设施 模型层:使用基础模型加速生成式AI应用构建 应用层:开箱即用的生成式AI应用至于能力如何,我们直接来看下最为直观的效果。在生成式AI应用方面,...……更多
港中文团队提出大模型元推理范式,革新大模型的评价体系
...一定启示。日前,相关论文以《大型语言模型评价中的元推理革命》(MR-GSM8K: A Meta-Reasoning Revolution in Large Language Model Evaluation)为题发在 arXiv,曾忠燊是第一作者,香港中文大学教授贾佳亚担任通讯作者 [1]。图……更多
模拟5亿年自然进化史,全新蛋白质大模型ESM3诞生!前Meta老将力作LeCun转赞
...白质语言模型ESM3。不仅支持序列、结构、功能的all-to-all推理,团队还在实验中发现,它设计的新蛋白质相当于模拟自然界5亿年的进化。继AlphaFold 3更新后,我们又看到了一个生命科学领域的大模型ESM3。模型开发团队来自于名为...……更多
天池大赛-“云上进化”2022全球AI生物智药大赛圆满落幕
...赛中,NVIDIA 提供了领先的算力支撑,加速了AI模型训练和推理,助力参赛选手AI算法方案的构建和部署。云计算平台加速生命科学新突破随着AlphaFold2等人工智能技术的发展,计算机预测蛋白质结构已经成为现实,人工智能对生命...……更多
联想王传东:2027年AI PC将成为市场主流
...下也能使用;第三,更低的大模型使用成本,以本地免费推理为主、以云端公共推理为辅,一次性购买AIPC即可享受全生命周期的本地免费推理服务;第四,可信、安全的个人数据和隐私保障,个性化本地知识库、隐私数据的本...……更多
三星galaxys24系列全系搭载骁龙8移动平台
...的核心——高通HexagonNPU,增强的高通HexagonNPU让生成式AI推理速度更快,相比前代的推理速度快98%,且能效提升40%。最新的HexagonNPU还集成了微架构升级、增强的微切片推理、更低的内存带宽占用,以及可实现最优性能和能效的专...……更多
英特尔以全新软硬件助力千行百业释放AI潜能
...此外,据最新消息,GraniteRapids在运行80亿参数的Llama3模型推理时,延迟比第四代英特尔至强处理器表现出两倍的提升,并且能够以低于100毫秒的token延迟运行700亿参数的Llama3模型推理。 携手生态合作伙伴助力数智变革现如今,...……更多
抢占大模型红利,28家企业成为文心千帆大模型平台生态伙伴
...言内测以来,一个多月完成了4次大的技术升级,大模型推理性能提升近10倍,正是因为客户和伙伴的最真实反馈,使得文心的迭代更加有的放矢。当前,我们再次到了所谓iPhone诞生的时刻,基于生成式AI一定会出现大量新的AI应...……更多
谷歌最新自然语言推理算法
谷歌发布全新反向推理算法LAMBADA,无惧搜索空间爆炸!自动推理绝对算是自然语言处理领域的一大难题,模型需要根据给定的前提和知识推导出有效且正确的结论。尽管近年来NLP领域借着大规模预训练语言模型在各种「自然语...……更多
Meta连甩AI加速大招 首推AI推理芯片 AI超算专供大模型训练
...Meta当下正将这些基础设施进一步升级进化。01.Meta首代AI推理加速器7nm制程、102.4TOPS算力MTIA(Meta Training and Inference Accelerator),是Meta第一个针对推理工作负载的内部定制加速器芯片系列。AI工作负载在Meta的业务中中无……更多
昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
...万维宣布开源2千亿稀疏大模型Skywork-MoE,性能强劲,同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来,是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型,也是首个支持用单台409...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
...每天40亿段视频。另外一款处理器则是该公司的Meta训练和推理加速器(MTIA)家族中的首款芯片,其目的是帮助Meta处理各种专门的人工智能任务。新的MTIA芯片专门处理“推理”,也就是利用已经训练好的人工智能模型做出预测或...……更多
李彦宏发布文心大模型4.0工具版,推理成本降到1%
...练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。“也就是说,客户原来一天调用1万次,同样成本之下,现在一天可以调用100万次。”此外,李彦宏在演讲中分享了百度...……更多
MWC 2024速递丨押宝AI,产业巨头激战未来
...大挑战:算力供给瓶颈、严肃场景中的差错、聚焦训练但推理不足以及商业闭环的挑战。 徐子阳提出,需从多方面实现AI技术进阶,包括突破技术瓶颈,加强架构、算法、算网和软硬件协同优化研究,以提升AI训练和推理效率...……更多
研究人员给了人工智能一个“内心独白”,结果大大提高了其性能
...工智能系统,让它在说话前先思考。内心独白提高了常识推理能力,并使其数学成绩翻了一番。一项新的研究表明,给人工智能系统一个“内心独白”会大大提高它们的推理能力。这种方法训练的人工智能系统,会在对提示做出...……更多
ChatGPT大流行的思考-解析篇
...器人的本质区别。2. ChatGPT如何实现知识的获取、存储、推理及实时更新那究竟GPT如何有如此优秀的表现呢?我们不妨从人类学习思路入手,我们学习一般可分为获取知识-存储知识-推理知识-更新知识,而这也是GPT发展及学习的...……更多
“专家系统”:人工智能辅助战场决策
...+算法”的求解过程不同,专家系统解决问题通过“知识+推理”。推理机是专家系统的大脑,负责模仿专家的思维过程,执行并控制系统对问题的求解过程。推理机利用知识进行推理,但推理机的性能与知识库的内容彼此影响很...……更多
PC正在经历AI时代 下一代Windows 12将是AI PC的完美载体
...态下也能使用;第三,降低大模型使用成本,在本地免费推理为主,云端公共推理为辅的情况下,一次购买AI PC即可享受全生命周期的本地免费推理服务;第四,提供可信、安全的个人数据和隐私保障,包括个性化本地知识库、...……更多
...算效率和算力开销两大问题成为新的行业焦点。对大模型推理成本的优化,可通过很多技术手段实现。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决...……更多
剧本推理游戏需要几个人才能玩
一般来说,剧本推理游戏最少是需要4个人才能玩的,但是如果要想有更好的体验感,最好还是要有5~8个人一起玩比较好,一般用时2~3个小时。知识讲解什么是剧本推理游戏?所谓的剧本推理游戏也称呼为“谋杀之谜”游戏,是...……更多
...能计算等;在AI服务器领域,联想从训练到训推一体再到推理的AI全场景都有完善的AI服务器产品矩阵。在设备之上,联想研发了在构筑智算中心时的关键模块——异构智算平台。同时,联想与国内外领先的AI算力生态企业广泛合...……更多
超越ChatGPT:人类特有的思维要强化
...据驱动学习机制不可避免存在不可解释、数据依赖和逻辑推理弱等不足。忽略这些不足,可能会给全面认识ChatGPT带来一定的困扰。虚假关联带来隐患尽管ChatGPT可以“写”出人机莫辨的论文、诗歌,但当你尝试问它类似这样的问...……更多
天数智芯发布通用 GPU 推理产品智铠 100
...‘铠’来”全新通用 GPU 产品线上发布会,推出通用 GPU 推理产品“智铠 100”及其 AI 应用案例。天数智芯总裁盖鲁江表示,智铠 100 是继天垓 100 后天数智芯正式向市场推出的第二款产品,标志着天数智芯成为国内唯一拥有云边...……更多
2022-12-21 01:02天数,推理,产品
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...在MMLU(多任务语言理解)、Knowledge(知识)、Reasoning(推理)、Comprehension(理解)等关键指标上均超越了Meta Llama 2的13B模型。这一个故事,在2024年2月1日的发布会上,也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
AI大模型应用商机:“AI+”还是“+AI”
...带来了更大的泛化能力,可实时对音频、视觉和文本进行推理,标志着AI大模型应用向更自然的人机交互持续迈进。GPT-4o的推出进一步推动了AI应用的繁荣,以AI大模型主导的创新应用前景也有望打开新的想象空间。对不同企业来...……更多
更多关于科技的资讯:
中国小女孩向马斯克报BUG成功:后者一个单词回应
快科技7月1日消息,近日,一位名叫茉莉的中国小女孩录制了一段视频隔空喊话马斯克,向其报了一个特斯拉的Bug,获得了马斯克的回复
2024-07-01 22:12:00
细菌鞭毛马达:最不寻常的生物结构 质子动力每分钟10万转
如果您问什么生物结构最不像自然进化的,那应该就是细菌的鞭毛马达。大部分细菌都可以在需要的时候长出鞭毛,然后通过旋转鞭毛来移动自己
2024-07-01 22:12:00
“学界牵手业界” 以赛为媒共育医疗人才供应链
南海网7月1日消息(记者 符彩云) 第九届全国大学生生物医学工程创新设计竞赛将于7月22日至26日在海南三亚崖州湾科技城举办
2024-07-01 23:30:00
汽车界的小米 零跑汽车6月交付20116台 创历史新高
快科技7月1日消息,今天零跑汽车公布了2024年6月销售数据,6月交付达20116台,创历史新高!同比增长52.3%, 环比增长10
2024-07-01 22:42:00
2024过半!新造车KPI达成率出炉:全指望下半年了
卷营销、卷价格,甚至卷老板,今年上半年车企在内卷的赛道风驰电掣,市场的惨烈程度,我们历历在目:比亚迪开年“电比油低”,五菱吉利等纷纷跟进降价
2024-07-01 22:42:00
一次加氢可行驶200多公里!国内首列氢能源智轨电车装配下线
快科技7月1日消息,据央视新闻报道,今天国内首列氢能源智轨电车在宜宾智轨产业园装配下线。氢能源智轨电车由中车株洲所自主研制
2024-07-01 22:12:00
韩妹《妮姬:胜利女神》COS图赏:身材优势尽显
《NIKKE:胜利女神》这款游戏中,桃乐丝、苏打和毒蛇是备受玩家喜爱的角色。近日,一位韩国Coser“siru_0207”分享了她的最新作品
2024-07-01 22:42:00
迪士尼《白雪公主》真人电影终于拍完:黑雪公主自豪
迪士尼《白雪公主》真人电影现已结束拍摄工作,近日瑞秋·泽格勒分享了这一消息。她表示:“《白雪公主》已杀青,我感到非常自豪和激动
2024-07-01 22:42:00
路特斯CEO称绝不会加入价格战:会增加用户持有焦虑和购买顾虑
快科技7月1日消息,日前路特斯集团CEO冯擎峰近日在微博明确表示,作为定位百万级豪华纯电汽车品牌,路特斯不会参与价格战
2024-07-01 23:12:00
对话领袖 | 廖顺喜先生:企业家精神与慈善公益的践行者
为赋能全球杰出企业品牌,深入探索服务需求,助力企业解决发展中的挑战与难题,特推出【对话领袖】专访系列,邀请优秀创业领袖
2024-07-01 22:55:00
火锅店必点菜品:小酥肉一年卖出100亿元
快科技7月1日消息,去火锅店你必点的菜品是什么?很多网友给的答案不一,比如牛羊卷、虾滑、毛肚、土豆片、豆腐等,但可能你想到不到的是
2024-07-01 23:12:00
创菱科技电暖桌:引领智能健康取暖新时代
位于贵州省毕节市七星关区小坝镇新鑫科技产业园的创菱科技实业有限公司,自成立以来,专注于电暖桌的研发、制造和销售,是一家致力于科技创新与品质卓越的领先企业
2024-07-01 22:46:00
伊刻活泉现泡茶亮相FBIF2024,以科技创新重塑茶饮新体验
6月25日至27日,备受瞩目的FBIF 2024食品饮料创新论坛及FBIF食品创新展在国家会展中心(上海)举行。本次展会汇聚了全球食品饮料行业的嘉宾展商
2024-07-01 23:03:00
半年销售额达6亿余元,昌乐县借电商平台打造珠宝销售的黄金时代
王佳潼潍坊报道“我们抖音运营中心落户昌乐主要是因为当地有庞大的货源。”抖音运营中心总经理薛婷说,昌乐县的珠宝电商产业基础非常好
2024-07-01 23:05:00
虽然如今的智能手机都有原生的骚扰屏蔽功能,第三方应用也不少,但运营商所采用的云端拦截技术依然有其独特的作用。7月1日,北京商报记者注意到
2024-07-02 00:14:00