• 我的订阅
  • 头条热搜
算子开发到推理加速,一位00后开发者的“升级打怪”之旅
...框架降低了大模型训练的门槛,目前正在做大模型分布式推理加速,希望可以帮助其他开发者在生产环境中高效部署在线推理服务。在昇腾AI的生态里,像郑辉这样为大模型浪潮默默贡献自己力量的开发者不胜枚举。他们还不是...……更多
突发!谷歌发布史上最强大模型Gemini,打爆GPT-4
...们刚才所述,32个基准测试中拿下30个SOTA。其中,通用、推理、数学和编程等大方向的成绩如下表所示:△Gemini 在包括文本和编码在内的一系列基准测试中达到SOTA 在多模态方面,Gemini Ultra在新的MMMU基准测试中也获得了59.4%的SOT...……更多
科学家推出大模型数据集,涵盖奥赛数学题,有望让AI辅导数学课程
...解决复杂数学问题的能力。通过此,他们不仅提高了算法推理速度,还提高了算法搜索中间结果的质量。所新推出的数据集 TriMaster100,也更加符合算法在复杂数学问题下的评价场景。目前,赵子龙的合作者正在基于本次成果开...……更多
谷歌大模型推理范式,主要分为两个阶段
...新研究“自我发现”(Self-Discover),重新定义了大模型推理范式。与已成行业标准的思维链(CoT)相比,新方法不仅让模型在面对复杂任务时表现更佳,还把同等效果下的推理成本压缩至1/40。核心策略其实很简单:千人千面。...……更多
联想提出混合智能,已开发“联想大脑”
...露,联想已经开发了如“联想大脑”这样的大模型训练和推理平台,并拥有全栈式AI Building Blocks(大模型和小模型系列)。同时,该公司也将推出AI异构推理加速平台。他表示:“未来,联想将围绕‘新IT’持续投资技术创新,...……更多
大模型推理乘上RISC-V快车?国内AI芯片创企推大模型系列一体机
...并发、技术自主可控方面具有优势的新选择。AI大模型在推理侧的新机遇与RISC-V创新架构具有的可扩展性、可编程性、超大规模等优势特点不谋而合。技术和场景应用的双重优势下,希姆计算的大模型一体机能支撑企业将基座模...……更多
Sam Altman再出手,投资了两个不到20岁的小创业者
...力。Induced AI则借助大语言模型的能力,让工具有了逻辑推理和判断的能力。用户只需要说出他的需求,比如“给我建个Jira的ticket”,或者“帮我筛选一波简历,给候选人发面试邀请”,Induced AI就可以对要做哪些事情进行实时判...……更多
百度云升级模型服务,百度版GPTs即日开放 | 最前线
...在侯震宇看来,是AI生态发展的关键一年。一方面,算力推理层和模型训练工具链的优化,将是2024年的重点。他表示:“2024年我觉得算力的整体供应不确定性或紧张程度较大,所以如何能够更有效使用算力资源,是一个大家都...……更多
...问答、农业文本语义理解、文本摘要生成、农业生产决策推理等多项功能。与会专家表示,这标志着AI应用在我国农业领域获重大进展,标志着由高校及科研院所研发的行业大模型又添新军,对我国以科技驱动农业现代化发展将...……更多
全球高校同台PK,齐鲁工业大学斩获一等奖!
...超算集群,运行优化国际通行基准测试HPL&HPCG、大模型推理优化、渗流数值模拟、火星大气模拟、新型材料结构计算等前沿科学与工程应用并参加答辩。RhinoLinX灵犀队其中,大模型推理优化赛题要求参赛队伍基于开源大语言模...……更多
...科学与工程应用,如国际通行基准测试HPL&HPCG、大模型推理优化、渗流数值模拟、火星大气模拟、新型材料结构计算等,并参加英文答辩。此外,参赛队伍还通过跨团队、跨地域合作,共同挑战地震波模拟赛题。赛题有多难?...……更多
浙大校友自研跨模态模型,打造具身智能的“通用语法”
...型、有效预测未来行为、以及在复杂交互场景中进行灵活推理等方面仍然面临挑战。图丨谷歌 PaLM-E[2](来源:arXiv) 由功能型到智能型的转变总的来说,由于技术水平的限制,关于具身智能的构想并未得到充分发展。直到近来...……更多
ASC24超算大赛启动会在京举行,大模型推理等成为赛题
...在上海大学举行的总决赛。据悉,今年的赛题包括大模型推理优化、渗流数值模拟,以及国际通行基准测试HPL和HPCG等。来自高性能计算和人工智能领域的中国科学院院士、中国工程院院士、专家学者及参赛师生代表等参加了启...……更多
本周(4.8-4.14)AI界发生了什么?
...模型中,只需一次API调用,该模型就可以分析图像并应用推理。“欧洲版OpenAI”Mistral AI也正式开源了大模型Mixtral8x22B,参数规模高达1760亿,仅次于马斯克AI公司的Grok-1大模型。苹果或在9月发布新电脑,搭载AI功能当地时间4月11...……更多
2023IDEA大会:让大模型更好应对复杂问题
...本正经的胡说八道”怎么解?众所周之,大模型存在深度推理能力差、知识不可追溯、实时更新代价高等局限性,这也成为其在许多严肃领域落地的主要瓶颈。如何弥补大模型的这部分缺陷,是当下AI应用的重要课题。为此,IDEA...……更多
算力租赁概念拉升,云计算50ETF跌幅大幅收窄
...已经出现短暂算力支持不足的情况,考虑后续模型训练和推理需求的增量,预期算力需求进一步提升。广发证券认为,各科技厂商为保持其千亿或万亿参数AI大模型的竞争力,有望持续投入和优化AI算力基础设施。云计算50ETF(516...……更多
当AI大模型卷向服务机器人,会有哪些新故事?|硬氪分析
...莫拉维克悖论提出,和传统假设不同,计算机要实现例如推理等人类所具备的高阶智慧、仅需少量的计算能力,而若要直觉、感知等能力,却需要巨大的运算能力。 简单来说,电脑可以在和人类围棋对弈中轻松取胜,但如果让...……更多
...理陈宁介绍,DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Lla...……更多
对话腾讯汤道生:大模型和云一样,难以被垄断|36氪专访
...上,我们2023年都有推出新产品。首先,大模型的训练与推理会带来大量计算需求,大量数据也需要存储、清洗、标注等处理,对IaaS业务有很大的促进。我们也推出了新一代HCC高性能计算集群、具备3.2T通信带宽的高性能网络星脉...……更多
...对显示行业需求而设计,具有强大的自然语言处理和知识推理能力,可以深度理解相关术语和概念,在显示领域能力可超越GPT4。“星智 X-intelligence”大模型的发布,标志着大模型技术在显示领域应用迈出了重要的一步,助力企...……更多
李开复AI公司首发大模型,阿里云领投 | 36氪独家
...SIQA、HellaSwag、WinoGrande等多个数据集,来评估Yi的“常识推理能力”“阅读理解能力”“数学与代码能力”等多维度能力。Yi能力。结果显示,Yi-6B在常识推理能力和阅读理解能力上达到了国内外开源模型的平均水平,但在数学与...……更多
昆仑万维:“天工大模型3.0”将于4月17日正式发布 同步开源4000亿参数MoE超级模型
...“天工2.0”MoE大模型,“天工3.0”在模型语义理解、逻辑推理、以及通用性、泛化性、不确定性知识、学习能力等领域拥有惊人的性能提升,其模型技术知识能力提升超过20%,数学/推理/代码/文创能力提升超过30%。同时,“天工...……更多
联想拿出能跑大模型的AI PC,老黄、苏妈捧场
...的酷睿Ultra处理器能够为联想PC带来高能效的AI加速和本地推理体验,满足潜在的生成式AI工作负载需求。联想与AMD在智能终端,AI导向、AI优化的智能基础设施等基础设施上也有着多年的合作。AMD董事长兼CEO苏姿丰高通也在助力联...……更多
谷歌王者归来?最新推出的大模型到底有多强,能否挑战GPT-4
...问题,这就使其尤其擅长解释数学和物理等复杂科目中的推理。Gemini能够根据照片按步骤讲题。来源:官方视频谷歌还发布了一个时长六分钟的视频,展现了测试员和Gemini的一些有趣互动,其中包括让Gemini识别图片并用多种语言...……更多
苹果推出DeepPCR 神经网络训练和推理速度提升7倍
...该算法通过并行处理常规顺序操作,可以加速神经网络的推理和训练过程。尽管神经网络已能处理文本或图片合成、分割和分类等复杂任务,但由于计算需求过大,神经网络训练和反馈结果的时间可能需要数天或者数周。目前广...……更多
联想王传东:AI PC重塑产业生态 新应用崛起
...来的公共大模型,提供的都是不涉及个人隐私数据的基础推理服务,无法得知用户偏好,在隐私和安全方面也存在弊端。王传东表示:“出于数据安全和隐私保护的考虑,以及更高效率、更低成本响应用户需求的考虑,人们既希...……更多
科学家提出情景学习新范式,让学霸大模型向学弱大模型输送能力
...十亿左右。“做大”,能让大模型具备更强的涌现能力和推理能力,从而适用于难度更高的任务。“做小”,能让大模型获得更优秀的推理能力,从而能被部署到手机、手表、耳机、录音笔等各类小微终端之中。情景学习(ICL,...……更多
荷兰最恐怖女杀手,靠一己之力毒杀上百人,只为了开心?
...戚们四处寻找愿意来贫民区的医生,他们运气不错,找到罗格斯·范德洛夫医生。(曾经的莱顿市)范德洛夫医生对治霍乱很熟悉,毕竟这是莱顿市的常见病。但他仔细瞧了亨迪利的症状后,发现情况不太对……四肢麻木、呼吸...……更多
...依托自研芯片 DeepEdge10 创新的 D2Dchiplet 架构打造的 X5000 推理卡,已适配并可承载 SAMCV 大模型、Llama2 等百亿级大模型运算,可广泛应用于 AIoT 边缘视频、移动机器人等场景。 ……更多
...依托自研芯片 DeepEdge10 创新的 D2Dchiplet 架构打造的 X5000 推理卡,已适配并可承载 SAMCV 大模型、Llama2 等百亿级大模型运算,可广泛应用于 AIoT 边缘视频、移动机器人等场景。 ……更多
更多关于科技的资讯:
2599元起 Redmi K70至尊版首销卖爆:3小时打破2024首销纪录
快科技7月20日消息,今天,Redmi宣布K70至尊版成为销量冠军。官方表示,该机首销3小时打破2024首销纪录,销量在全网全价位段都是第一名
2024-07-20 20:52:00
创造华为历史!光传送领域首个“红点奖”诞生
快科技7月20日消息,近日,华为Kepler平台OptiX OSN 9800 K36经评审委员会多项严格评审,最终荣获2024年红点设计大奖
2024-07-20 21:52:00
男子吃菌后看见猫跷二郎腿下象棋:嘴角还在讲话
7月20日消息,据媒体报道,一男子吃菌后出现幻觉,他看见家里两只猫咪翘着二郎腿下象棋,嘴角还在讲话,该男子出门没多久就开始呕吐
2024-07-20 23:23:00
车主使用小米SU7自动泊车要注意 官方:有5大注意事项
快科技7月20日消息,今日晚间,小米汽车官方分享了小米SU7自动泊车时的重要注意事项,具体如下:第一步:点击智能泊车入口图标
2024-07-20 23:23:00
比亚迪年度大招!新款汉搭载全新一代DM-i:动力续航大升级
秦L和宋L之后,比亚迪汉新车型也终于登陆工信部申报目录。但比较遗憾的是,这次新车型并不是大家猜测中的汉L,而是全新一代汉DM-i
2024-07-20 23:53:00
50岁女子晒背半小时中暑:精神疲软呼吸困难
7月20日消息,据媒体报道,50岁的王女士因晒背进了急诊科,其体温达40.3度,精神疲软呼吸困难,双下肢乏力,一看就是中暑症状
2024-07-20 23:53:00
Redmi K70至尊版再度获得了销量冠军!
7月19日晚,小米召开了新品发布会,在此次发布会上,除了小米的两款折叠屏外,还带来了RedmiK70至尊版新机。7月20日上午
2024-07-20 20:27:00
苹果更新applemaps应用程序
苹果本周更新了其AppleMaps应用程序,为2024年夏季奥运会做准备。奥运会将于7月26日星期五在巴黎正式开始。更新后的AppleMaps展示了巴黎所有永久场馆的定制手工3D地标
2024-07-20 20:27:00
兰博基尼temerario高温测试
兰博基尼Temerario在即将于8月的蒙特雷汽车周亮相前,被拍到进行高温测试。尽管确切的发布时间尚未确认,但原型车显然已经接近量产阶段
2024-07-20 20:29:00
Google Pixel 9 Pro的首张官方图正式揭示
谷歌此前宣布,将在2024年8月13日举办全球发布会。此次发布会上,谷歌将揭晓备受期待的Pixel9系列以及其他几款设备
2024-07-20 20:30:00
小米mixfold4轻薄版体验
小米MIXFold4作为小米手机有史以来,最先进、最精密、最轻薄的满配大折旗舰,在轻薄与全能之间,做到了完美的平衡,同时由皇家牛津纹理编制而成的龙鳞版后盖,展现出了独特的层次变化
2024-07-20 20:33:00
小米mixflip:幻影紫的配色“美丽动人”
作为小米的首款竖向折叠屏手机,小米MIXFlip的确是一部诚意满满的新品,全尺寸的多功能大外屏,让它合上就是一台好用的小手机,幻影紫的配色也让它在打破“美丽小废物”称号的同时,依
2024-07-20 20:51:00
小米SU7 Ultra原型车,挑战非量产圈速榜
7月19日,在小米的新品发布会上,雷军带来了发布会的OneMoreThing,那就是小米SU7MAX原型车。雷军表示,小米汽车目标在十年内成为纽北最快的四门电车
2024-07-20 20:52:00
小米buds5亮相,精致时尚音质更好
随着雷军2024年度演讲大幕的拉开,包括小米MIXFold4、小米MIXFlip、RedmiK70至尊版、小米手环9等新品也一一亮相
2024-07-20 20:55:00
雷军:小米2024年初小米汽车订货目标7.6万辆
7月19日晚,在小米2024年发布会暨雷军年度演讲上,雷军透露,小米2024年初小米汽车订货目标是7.6万辆,而小米工厂仅能提供3天的库存量
2024-07-20 20:55:00