• 我的订阅
  • 头条热搜
全球最强开源大模型Llama 3发布:使用15T数据预训练,最大模型参数将超4000亿
...业基准测试中达到了 SOTA,并提供了新的功能,如改进的推理能力。最强开源 LLM 来了Meta 官方博客写道,“得益于预训练和后训练的改进,我们的预训练和指令微调模型是目前 8B 和 70B 参数尺度下最好的模型。”他们表示,后期...……更多
Infocomm China2024见闻:大家每天忙于开会,却还没吃透怎么用好AI
...能也需要具备一定的端侧能力。假设有大量用户同时进行推理请求,会消耗大量的服务器计算资源,这对于服务商来讲,基于云端进行推理的成本是非常高昂的;而对于用户,基于端侧具备的计算能力,也会减少延迟,或者模型...……更多
vivo蓝心大数据模型,为什么这么受欢迎?
...、知识问答、自然对话的700亿蓝心大模型70B以及适合逻辑推理以及任务编排的1300亿蓝心大模型130B以及1750亿蓝心大模型175B。而700亿蓝心大模型70B在SuperCLUE、C-Eval、CMMLU等多个榜单中排名第一,并将70亿规模蓝心大模型7B开源。 同...……更多
GPT 能为自动驾驶带来什么?毫末给出了答案
... CSS 自动驾驶场景库的决策样本去训练模型,让模型学习推理关系,从而将完整驾驶策略拆分为自动驾驶场景的动态识别过程,完成可理解、可解释的推理逻辑链生成。毫末智行 CEO 顾维灏表示,毫末 DriveGPT 雪湖 · 海若通过引入...……更多
零一万物Yi-1.5来了,国产开源大模型排行榜再次刷新
... Yi-1.0 的持续预训练版本,使用 500B 个 token 来提高编码、推理和指令执行能力,并在 300 万个指令调优样本上进行了精细调整。刚一发布,就已经有开发者跃跃欲试:并收获了好评: 与前序模型相比,Yi-1.5 系列模型进一步提升...……更多
面壁智能发布开源大模型eurux-8x22b
...大模型Eurux-8x22B,包括 Eurux-8x22B-NCA 与 Eurux-8x22B-KTO,主打推理能力。官方测试中,Eurux-8x22B 在 LeetCode(180道LeetCode编程真题)与 TheoremQA(IT之家注:美国大学水准的STEM题目)测试上超越了 Llama3-70B……更多
360AI搜索上线慢思考模式:成为全球首个慢思考搜索引擎 大幅提升回答质量
...型,经过意图识别、搜集者、思考者、反思者、阅读者、推理者、总结者等七个角色完成至少12个步骤;平均阅读全网25万篇资料,精选其中30篇,单个回答5000字,所消耗Token数量达“快思考”的40倍,平均节约用户100分钟的时间...……更多
阿里云CTO周靖人:全面投入升级AI大基建
...级从服务器到计算、存储、网络、数据处理、模型训练和推理平台的技术架构体系,让数据中心成为一台超级计算机,为每个AI和应用提供高性能、高效的算力服务。大会现场,通义大模型迎来了年度重磅发布,基础模型升级,...……更多
位列第一梯队,腾讯混元再度领跑国内大模型
...维度的综合性测评基准,由十大基础任务组成,包括逻辑推理、代码、语言理解、长文本、角色扮演等。本次报告选取了国内外具有代表性的32个大模型4月份的版本,通过多维度综合性测评,真实准确地反映了国内外大模型在中...……更多
谷歌王者归来?最新推出的大模型到底有多强,能否挑战GPT-4
...问题,这就使其尤其擅长解释数学和物理等复杂科目中的推理。Gemini能够根据照片按步骤讲题。来源:官方视频谷歌还发布了一个时长六分钟的视频,展现了测试员和Gemini的一些有趣互动,其中包括让Gemini识别图片并用多种语言...……更多
收入占比40%、电话会议点名16次,英伟达:推理端的需求被低估了
...让人印象深刻的是,英伟达在财报电话会议的一个观点:推理端的爆发,可能很多人还是低估了。据英伟达电话会议披露,公司全年数据中心里已经有40%的收入来自推理业务,超出了绝大部分人预期。而在这次财报电话会议里,...……更多
摩尔线程与360达成战略合作,将共同打造“360智脑大模型一体机”
...模型一体机”集成了 360 智脑大模型,具备大模型管理、推理部署等功能,摩尔线程全功能 GPU 将为其提供底层算力,“以高性价比硬件方案确保大模型推理效率和成本的平衡”。双方还将共同研发和优化推理框架,在软件层面...……更多
LLM仍然不能规划,刷屏的OpenAI o1远未达到饱和
...模型,一举创造了很多历史记录。o1 模型拥有真正的通用推理能力。在一系列高难基准测试中展现出了超强实力,相比 GPT-4o 有巨大提升,让大模型的上限从「没法看」直接上升到优秀水平,不专门训练直接数学奥赛金牌,甚至...……更多
...员不足的问题,也能更好地满足游客的观展需求。思想有多远,未来就有多远。数字与文化的相逢,精彩才刚刚开始。依托智能数智人、虚实融合、LBS、AR、数字孪生、区块链等技术,南京打造的国内首个城市级文化行业大模型...……更多
...强结合,GLM-4稳定、高效运行于云端,并具备大规模实时推理能力,成功实现了成本效益和服务质量的平衡。这一创新使得智谱大模型能够深入理解用户需求,快速作出响应,为用户提供智能化生活的便利与高效。自2022年起,优...……更多
谷歌发布gemma2大语言模型,共有两种大小
...亿参数(27B)两种大小。Gemma2大语言模型相比较第一代,推理性能更高、效率更高,并在安全性方面取得了重大进步。谷歌在新闻稿中表示,Gemma2-27B模型的性能媲美两倍规模的主流模型,而且只需要一片英伟达H100ensorCoreGPU或TPU...……更多
NVIDIA RTX显卡AI推理提速5倍!
...得更好的加速和应用。其中,TensorRT-LLM是一款用于加速LLM推理的库,可大大提升AI推理性能,还在不断更以支持越来越多的语言模型,而且它还是开源的。就在10月份,NVIDIA也发布了面向Windows平台的TensorRT-LLM,在配备RTX30/40系列GP...……更多
2023内容科技应用典型案例:农业银行大模型ChatABC
...解决模型并行、数据并行等训练难题,提升AI大模型训练推理效率。应用:探索大模型知识融合新架构。构建异构知识库,支持全文检索、知识推理等各类知识检索场景需求。深度定制全文检索框架,支持文档类知识的高性能精...……更多
...8.3倍。效率方面,文心大模型训练速度达到原来的3倍,推理速度达到原来的30多倍。科大讯飞董事长刘庆峰介绍,自5月6日首次发布讯飞星火认知大模型以来,已进行两次重大迭代升级,在文本生成、语言理解、知识问答、逻辑...……更多
突破遥感基础模型关键技术!我国科研人员研发出遥感智能训推一体机
...然而,遥感单幅影像幅宽大、基础模型参数规模大,导致推理速度与应用场景较为受限。近日,中国科学院空天信息创新研究院(空天院)科研团队基于自主研制的遥感智能解译基础模型,联合国内相关研发机构,共同研发出“...……更多
chatgpt低成本复现流程开源
...。相比原生PyTorch,单机训练速度最高可提升7.73倍,单卡推理速度提升1.42倍,仅需一行代码即可调用。对于微调任务,可最多提升单卡的微调模型容量3.7倍,同时保持高速运行,同样仅需一行代码。要知道,ChatGPT火是真的火,...……更多
...法不准确。同时,它还附上了正确做法。聚集增强数学、推理及代码能力商汤生成式AI产品系列的突破性表现,得益于其最新发布的日日新5.0版本大模型。记者了解到,自去年4月首次发布,商汤“日日新SenseNova”大模型体系已正...……更多
空天信息+人工智能 中国科研团队成功研发遥感智能训推一体机
...发成功一款命名为“空天·灵犀”的遥感智能训(训练)推(推理)一体机。“空天·灵犀”遥感智能训推一体机。中国科学院空天院 供图“空天·灵犀”遥感智能训推一体机搭载的高精度、高时效轻量化基础模型,能够在自然资源、...……更多
马斯克突然发布Grok-2!数学推理能力突出,攻克“9.9与9.11比大小”经典难题
...上一代模型,Grok-2和Grok-2 mini在阅读理解、数学、编码、推理等方面表现都有显著改进。值得一提的是,Grok-2在数学推理(MathVista)方面表现登顶测试榜首。但细心网友不难发现,即便是Grok-2,在其他方面与前沿模型GPT-4o或Claude ...……更多
华人团队爆火instructblip抢跑看图聊天
...成员:InstructBLIP据介绍,InstructBLIP模型更擅长「看」、「推理」和「说」,即能够对复杂图像进行理解、推理、描述,还支持多轮对话等。比如,下图这一场景可能发生了什么?InstructBLIP推理出,可能飓风,或者恶劣的天气因素...……更多
...较确定的长期主线。 投资机会上,张雪薇认为主要利好推理侧算力以及AI+相关硬件。GPT-4o最让人惊叹的除了强大的理解能力,就是几乎实时的反应速度。这次GPT-4o的超低延迟将会对推理算力提出更高的要求。国产算力方面,海...……更多
自定义Llama 3.1模型的利器来了!NVIDIA打造生成式AI代工厂,还有加速部署的微服务
...24日报道,NVIDIA宣布推出全新NVIDIA AI Foundry服务和NVIDIA NIM推理微服务,与刚推出的Meta Llama 3.1系列开源模型一起,为全球企业的生成式AI提供强力支持。Llama 3.1大语言模型有8B、70B和405B三种参数规模。模型在超过16000个NVI……更多
开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1
...设定了一个新的前沿”。Mistral Large 2尤其擅长代码和数学推理,上下文窗口128k,支持数十种自然语言以及80+编程语言。特别在MMLU上,其预训练版本更是达到了84.0%的准确率。消息一出,Mistral AI联创兼首席科学家第一时间转发,...……更多
微软研究院推出orca2llm
...然后生成、回忆-原因-生成、提取-生成和直接回答等各种推理技术,同时还能为不同的任务选择不同的解决方案策略。Orca2模型相比较Llama2和WizardLM等大型语言模型,在痛苦理解、常识推理、多步推理、数学问题解决、阅读理解...……更多
英伟达开源NVLM 1.0屠榜多模态!纯文本性能不降反升
...例如,OCRBench)的性能,但与低分辨率版本模型相比,在推理相关任务(例如,MMMU)上的准确率却会下降。此外,虽然开源的多模态大模型在视觉-语言任务上取得了非常亮眼的基准测试结果,但在纯文本任务上的性能却有显著...……更多
更多关于科技的资讯:
腾讯游戏反作弊预启动模式即将上线,随 Windows 开机启动
IT之家 9 月 27 日消息,腾讯游戏今日公布游戏反作弊新功能 —— 腾讯游戏反作弊预启动模式,该模式首批上线《穿越火线》《无畏契约》
2024-09-29 09:47:00
中车株洲所发布新一代智慧超充系统:峰值电流 800A 液冷超充终端
IT之家 9 月 27 日消息,2024 国际储能和氢能与燃料电池技术和装备及应用大会暨展览会于 9 月 25 日在上海开幕
2024-09-29 09:47:00
佳能向得克萨斯电子研究所交付其最先进纳米压印光刻 NIL 系统
IT之家 9 月 27 日消息,佳能日本东京当地时间昨日宣布,将在同日向总部位于美国得克萨斯州的半导体联盟得克萨斯电子研究所(TIE)交付佳能最先进的纳米压印光刻 NIL 系统 FPA-1200NZ2C
2024-09-29 09:47:00
谷歌 AI 助手 NotebookLM 获更新:总结视频内容、创建学习指南
IT之家 9 月 27 日消息,谷歌本周对旗下 AI 笔记助手 NotebookLM 进行更新,目前该助手已支持对视频内容进行总结(现支持 YouTube 平台)
2024-09-29 09:48:00
CSDN蒋涛:国内独立开发者要赚到钱,需要软件的创造成本真正降下来|36氪专访
中国拥有超过700万程序员,过去几十年间,这个庞大群体的编程工作,几乎完全建立在海外提供的编程工具及底座之上。但这一情况在过去一年发生了改变
2024-09-29 09:48:00
全球首款加密钱包欺诈 App 被发现:下载破万次,吸血 7 万美元
IT之家 9 月 27 日消息,科技媒体 theregister 昨日(9 月 26 日)发布博文,报道一种伪装成 Web3 的“吸血”应用
2024-09-29 09:49:00
美图公司旗下 AI 短片创作工具 MOKI 开放:覆盖动画、网文、MV等
IT之家 9 月 27 日消息,美图公司旗下 AI 短片创作工具 MOKI 昨日(9 月 26 日)面向全部用户开放。官方介绍称
2024-09-29 09:49:00
be quiet! 德商德静界推出 Light Wings LX 风扇,可选 120\\140mm
IT之家 9 月 27 日消息,be quiet! 德商德静界北京时间昨日宣布推出 Light Wings LX 散热风扇
2024-09-29 09:49:00
中国科学院成功开发 19F MRI “分子无人机”:药物精准递送
IT之家 9 月 27 日消息,中国科学院精密测量院研究团队在开发 19F MRI “分子无人机”方面取得重要进展。该团队开发出一类具有“水母”形态的氟化功能大分子
2024-09-29 09:49:00
【前沿】11月发?华为MateX6曝光
今年9月,华为发布了全球首个量产的三折叠屏手机——华为Mate XT非凡大师(封面为XT),按照华为品牌的新机更新节奏来看
2024-09-29 09:50:00
OPPO刘波:线下销量是大量萎缩的,品牌更需要聚焦核心客户和门店
IT之家 9 月 28 日消息,OPPO|一加旗舰店(贵阳万象城店)将在 10 月 1 日开业,这是 OPPO 全国范围内最大的旗舰店
2024-09-29 09:50:00
o1规划能力首测!已超越语言模型范畴,preview终于赢mini一回
o1-preview终于赢过了mini一次!亚利桑那州立大学的最新研究表明,o1-preview在规划任务上,表现显著优于o1-mini
2024-09-29 09:51:00
165Hz高刷!新机官宣:9月29日,正式发布
随着国内手游的快速发展,对智能手机和平板性能要求越来越高,所以促进了高端机和旗舰机的出货量。而游戏手机出货量并没有得到提升
2024-09-29 09:53:00
四款子系列新机再被确认:均搭载骁龙8 Elite,屏幕材质也已清晰
在如今的手机市场中,最不缺的应该就是新机,无论是高端旗舰市场还是中低端市场,几乎每个月都会有新品和大家见面。尽管有的机型需要打磨许久的时间
2024-09-29 09:54:00
国庆换新机,优选耐用千元“卷王”——OPPOA3Pro!
OPPOA3Pro的防水性能可谓“满级”,它不仅通过了IP69、IP68和IP66多项防水标准(防热水防浸水也防喷水)
2024-09-29 09:54:00