• 我的订阅
  • 头条热搜
手机上能跑的「GPT-4V」来啦!多图、视频理解首次上端!面壁小钢炮开源史上最强端侧多模态
...类模型低 75%。端侧友好:量化后端侧内存仅占 6 GB;端侧推理速度高达 18 tokens/s,相比上代模型快 33%。并且发布即支持 llama.cpp、ollama、vllm 推理;且支持多种语言。统一高清框架,高效能力一拖三:小钢炮的传统优势 OCR 能力延...……更多
对话云天励飞董事长陈宁:2030年人类将实现AGI,推理芯片将是蓝海市场|钛媒体AGI
...拥有一个AI Agent。“如果说2024年是大模型落地应用之年,推理就会越来越重要。此前在训练芯片市场上,英伟达一骑绝尘,占有绝对的市场占有率,那么今天,推理芯片市场没有垄断性的巨头。这不仅是万亿级、万亿颗芯片的蓝...……更多
全球都在搞AI,为什么是百度挣到钱?
...,李彦宏透露,自发布以来,百度不断降低文心大模型的推理成本,目前已降低至2023年3月版本的1%。随着推理成本的降低,越来越多的用户和企业开始使用文心大模型。这意味着不论是对于企业还是开发者,基于文心大模型开...……更多
...展开紧密协作,共同致力于本土算力和大型模型的训练与推理技术的发展。11月初,云从科技在投资者关系平台上答复投资者关心的问题时称,公司已与华为签署了全面合作框架协议,并已联合发布了从容大模型训推一体化解决...……更多
系统级玩家微软、苹果先后出牌,端侧大模型路径清晰了?
...MGSM(跨语言数学能力)提升 2.3%,而DROP(文本段落分析推理)则下降了 3%。但与此同时,杀手级应用仍未出现。根据第三方网站SimilarWeb的监测数据,早在去年6月,ChatGPT流量即已见顶,当月其网站与移动客户端的全球流量(PV)...……更多
只用 13 天,OpenAI 做出了能听、能说、能自主决策的机器人大模型
...破,由 OpenAI 与 Figure 共同做出。OpenAI 提供负责提供视觉推理和语言理解,而 Figure 的神经网络提供快速、低水平、灵巧的机器人动作。机器人所做出的所有行为都是出于已经学习过,内化了的能力,而不是来自远程操作。研究...……更多
9.11和9.9哪个大?实测12个大模型8个都答错,ChatGPT也翻车了
...模型的短板,此前行业也多次讨论过大模型的数学和复杂推理能力较差,即便是目前最好的大模型GPT-4也仍然有很大进步空间。最近的一次,第一财经曾在6月报道过,根据司南评测体系OpenCompass的高考全卷测试,包括GPT-4在内,7...……更多
李彦宏:大模型场景下开源是最贵的,多模态是通往AGI的必经之路
...练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。会上,百度发布了文心大模型4.0的工具版,该工具版可以让开发者体验代码解释器功能,开发者不仅可以通过自然语言...……更多
...理陈宁介绍,DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Lla...……更多
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...在MMLU(多任务语言理解)、Knowledge(知识)、Reasoning(推理)、Comprehension(理解)等关键指标上均超越了Meta Llama 2的13B模型。这一个故事,在2024年2月1日的发布会上,也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
马斯克官宣Grok-2测试版!xAI将继续拥抱开源路线吗?
...据具体询问的内容,模型只会激活不同的专家子模块进行推理,在吞吐量一定的情况下,可以更快地完成推理、给出回答。这让Grok-1拥有了更快的生成速度和更低的推理成本,简而言之就是更好的使用体验和性价比。根据xAI公布...……更多
近日,高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计,提供相当于上一代产品四倍的性能。新款CloudAI100Ultra可部署的模型规模进一步扩大,单张150W的卡上可部署100B参数模...……更多
...算效率和算力开销两大问题成为新的行业焦点。对大模型推理成本的优化,可通过很多技术手段实现。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决...……更多
突破遥感基础模型关键技术!我国科研人员研发出遥感智能训推一体机
...然而,遥感单幅影像幅宽大、基础模型参数规模大,导致推理速度与应用场景较为受限。近日,中国科学院空天信息创新研究院(空天院)科研团队基于自主研制的遥感智能解译基础模型,联合国内相关研发机构,共同研发出“...……更多
港中文团队提出大模型元推理范式,革新大模型的评价体系
...一定启示。日前,相关论文以《大型语言模型评价中的元推理革命》(MR-GSM8K: A Meta-Reasoning Revolution in Large Language Model Evaluation)为题发在 arXiv,曾忠燊是第一作者,香港中文大学教授贾佳亚担任通讯作者 [1]。图……更多
专注于推理的OpenAI“草莓”模型两周内发布?是人工智能下一重大突破
...“秋季发布”(9月至11月)要更早。上述报道称,专注于推理能力的人工智能“草莓”发布前后还有一些亟待解决的问题,但看似“仓促上马”似乎说明OpenAI感受到了大语言模型驱动产品领域的激烈竞争压力,希望通过近几个月...……更多
百川智能发布baichuan3稳定语言模型
...处理和代码生成领域的强大实力。不仅如此,其在对逻辑推理能力及专业性要求极高的MCMLE、MedExam、CMExam等权威医疗评测上的中文效果同样超过了GPT-4,是中文医疗任务表现最佳的大模型。Baichuan3还突破“迭代式强化学习”技术...……更多
京东云曹鹏:AI变革之下,大模型技术如何为企业未来赋能?
...提高工作效率;在模型服务方面,提供一站式的模型训练推理服务,降低大模型训练和使用门槛;在基础设施方面,提供极致的数字基础设施能力,满足大模型的算力需求。随着通用大模型训练进入万亿参数级别,超大规模算力...……更多
AI真·炼丹:整整14天,无需人类参与
...能上有着显著的增强,还结合大容量末级缓存使AlphaFold2推理过程中关键的张量吞吐获得了大幅提升。 英特尔®至强®CPUMax系列处理器其次,由于AlphaFold2所采用的深度学习模型规模巨大,推理过程中的张量运算不仅量大,且维度...……更多
科大讯飞星火大模型将上新
...,公司将于5月在京东、天猫等电商平台上新搭载星火大模型的语音台历,具备更广泛的知识覆盖、更强的理解能力及更自然的人机交互。这款语音台历产品的更多配置、规格信息,目前官方没有过多透露。4月26日,科大讯飞宣...……更多
蚂蚁自研知识增强大模型服务框架KAG,可显著提升知识推理准确率
...地,也一定要对时间、数字和逻辑敏感,无论让它做多跳推理,还是逻辑规则数字计算,而这些恰好是大语言模型所不擅长的,包括前一段时间热议的 9.9 和 9.12 比大小的例子。基于此,我们认为在垂直领域落地的时候,大语言...……更多
第一个100%开源的MoE大模型,7B的参数,1B的推理成本
...语言模型 (LM) 在各种任务上取得了重大进展,但在训练和推理方面,性能和成本之间仍然需要权衡。对于许多学者和开发人员来说,高性能的 LM 是无法访问的,因为它们的构建和部署成本过高。改善成本 - 性能的一种方法是使...……更多
GPT刚刚公开「草莓」项目:推理能力翻倍,定价200美元?
... OpenAI 在大语言模型领域的新尝试,也可能是对人工智能推理能力一次新的革命性提升。根据目前流出的信息来看,相比以往的 GPT 模型,「草莓」在处理复杂问题、执行多步骤任务方面展现出前所未有的潜力,使其成为通用人...……更多
突发!谷歌发布史上最强大模型Gemini,打爆GPT-4
...们刚才所述,32个基准测试中拿下30个SOTA。其中,通用、推理、数学和编程等大方向的成绩如下表所示:△Gemini 在包括文本和编码在内的一系列基准测试中达到SOTA 在多模态方面,Gemini Ultra在新的MMMU基准测试中也获得了59.4%的SOT...……更多
语言≠思维,大模型学不了推理:一篇Nature让AI社区炸锅了
...到,人类大脑生成和解析语言的神经网络并不负责形式化推理,而且提出推理并不需要语言作为媒介。这篇论文声称「语言主要是用于交流的工具,而不是思考的工具,对于任何经过测试的思维形式都不是必需的」,引发了科技...……更多
GPT-4o的识图能力有多牛?四大维度深度体验
...,准确率高达100%。图片来源:GPT-4o四、手写指令和逻辑推理最后,记者上了点难度,用手写的逻辑推理题来测试了GPT-4o的识图和逻辑推理能力。GPT-4o的回答堪称完美,不仅准确识别了手写体文字并遵照指示,且答题逻辑完全合...……更多
PC迎来AI时刻,英特尔、微软、联想等纷纷布局,产品价格将迎上涨
...算力是上一代的8倍,可在PC上实现高能效的AI加速和本地推理,并适配超过10款国产大模型。英特尔的老对手AMD则抢先一步,上周发布Ryzen 8040系列处理器。该处理器集成了升级的专用AI引擎NPU,算力为16TOPS,AI性能相比上一代提升...……更多
快手发布对标Sora的视频生成大模型「可灵」 已开放邀测体验
...p分辨率30fps的视频。得益于高效的训练基础设施、极致的推理优化和可扩展的基础架构,可灵大模型能够生成长达2分钟的视频。在推理过程中,还可以做到同样内容输出多种视频宽高比。下面的视频展示了分钟级的视频生成,...……更多
全球最强开源大模型Llama 3发布:使用15T数据预训练,最大模型参数将超4000亿
...业基准测试中达到了 SOTA,并提供了新的功能,如改进的推理能力。最强开源 LLM 来了Meta 官方博客写道,“得益于预训练和后训练的改进,我们的预训练和指令微调模型是目前 8B 和 70B 参数尺度下最好的模型。”他们表示,后期...……更多
戴尔以技术创新推动AI基础架构升级
...应用背后离不开底层基础设施的支持。以大模型的训练和推理为例,大模型的参数量已经从数十亿增加到几百亿、几万亿甚至更高,更大的模型带来了更大的AI算力需求。有数据显示,AI所消耗的算力平均每3至4个月就会增长一倍,而...……更多
更多关于科技的资讯:
超一级能效!米家空调自然风Pro 3匹挂机空调今日开售:首发5499元
快科技9月17日消息,米家空调自然风Pro 3匹挂机空调于今天20点正式开售,首发价为5499元。米家空调自然风Pro 3匹挂机空调配备了双缸压缩机和双排冷凝器
2024-09-17 12:51:00
599元!小米推出米家无雾加湿器3 800:便捷上加水
快科技9月17日消息,小米众筹上线了全新的米家无雾加湿器3 800款,将于明天(9月18日)上午10点开启众筹,定价599元
2024-09-17 12:51:00
中新经纬9月16日电 (林琬斯)据中央气象台消息,台风“贝碧嘉”16日中午12时已移入江苏境内。16日下午,中新经纬从多家快递公司及外卖生鲜配送平台处最新获悉
2024-09-17 12:57:00
韩妹COS《绝区零》艾莲:臭脸鲨鱼妹神态还原
《绝区零》中的鲨鱼妹艾莲·乔战力可观,也是一位极受欢迎的臭脸鲨鱼娘。今天和大家分享的就是来自韩国的小姐姐PPOYA的艾莲COS
2024-09-17 13:51:00
女生中秋节吃悟空月饼 网友:一会儿肚子里就有人喊嫂嫂了
快科技9月17日消息,中国首款3A单机大作《黑神话:悟空》上线后风靡全球,还带动了周边火爆,各种《黑神话:悟空》的联名产品也相继登场
2024-09-17 14:21:00
支持大众全车型!新空间无骨雨刷白菜价 5.9元手慢无
新空间无骨雨刷1对报价36.9元,今日限时限量领取31元优惠券,到手5.9元,包邮,大众全车型适用。商品页选项已包含大部分大众车型
2024-09-17 15:21:00
今年最难抢的手机!华为Mate XT三折叠10天预约人数已达626万:备货量100万台
快科技9月17日消息,自9月7日开启预订以来,仅10天时间,华为Mate XT 非凡大师三折叠的官网预约人数就超过了626万人
2024-09-17 15:21:00
家用电梯保修期解读——保障用户权益的关键因素
家用电梯作为一种垂直交通工具,其保修期对于用户来说是一个重要的问题。本文将详细探讨家用电梯的保修期,包括保修期的定义、影响因素
2024-09-17 15:39:00
揭秘关卡删减原因!《黑神话:悟空》全新纪录片《路在脚下》9月21日发布
快科技9月17日消息,《黑神话:悟空》全新纪录片《路在脚下》将于9月21日11:00全网同步发布,并于9月20日在TapTap抢先首播
2024-09-17 15:51:00
全国广电领域家庭互联网视频类应用首例!向“数”而行,吉视传媒领先一步!
9月13日,吉视传媒设计的“家庭互联网视频类应用区域运营策略分析数据集”在北京国际大数据交易所成功登记获得相应的《数据资产登记证书》
2024-09-17 16:35:00
自研空间望远镜观测!中国科学家首拍月亮完整X光片
快科技9月17日消息,今天是中秋节,据央视新闻报道,我国“爱因斯坦探针”(简称EP)空间X射线天文台今日从太空传回月亮的X射线照片
2024-09-17 16:51:00
父亲替去世儿子玩《黑神话:悟空》 网友安慰令人动容
日前,一位国外玩家在reddit分享了自己替因病去世的儿子玩《黑神话:悟空》的故事。用户samikhanlodhi表示
2024-09-17 16:51:00
锚定现代化 改革再深化丨十堰这家公司打造国内首个第三代农机生产制造基地
十堰广电讯(全媒体记者 汤海涛 郧阳融媒记者 郝周)十堰国科鸿鹄科技有限公司是一家生产第三代农机为主的企业。今年落地郧阳区后
2024-09-17 17:03:00
帮听障人士感受音乐!Apple Music推出音乐触感反馈功能
快科技9月17日消息,随着iOS 18更新,Apple Music更新一项比较有意思的音乐触感反馈功能。音乐触感反馈的推出让所有人都能无碍欣赏音乐
2024-09-17 17:21:00
曝三只羊所售茅台72瓶不符合正品特征:真酒被替换作假
快科技9月17日消息,最近三只羊被推到了舆论的风口浪尖,螃蟹、梅菜扣肉等负面问题不断被大家关注讨论,现在又出现了茅台的问题
2024-09-17 07:51:00