• 我的订阅
  • 头条热搜
智能驾驶的「 ChatCPT 时刻」,这么近,那么远
...斯拉的更新日志,采用端到端的 FSDV12 经过数百万个视频训练后,可以减少 30 多万行 C++代码,仅保留了 3000 行代码。当然,上边说的都最理想状态的端到端,现实中,目前被各家车企、自动驾驶供应商宣传的端到端,并没有那...……更多
3天把Llama训成Mamba,性能不降,推理更快!
...型的推理速度。为什么要把Llama变成Mamba?因为从头开始训练一个大模型太贵了。Mamba也火了这么长时间了,相关的研究每天都有,但自己训练大尺寸Mamba模型的却很少。目前比较有名的是AI21的Jamba(进化到了1.5版本,最大398B,MoE...……更多
零样本即可时空预测!港大、华南理工等发布时空大模型UrbanGPT | KDD 2024
...提高时空数据预测的准确性,但这些方法通常需要大量的训练数据来生成可靠的时空特征。然而,在实际的城市监测场景中,数据往往不足,特别是在某些情况下,收集有标记的数据变得非常困难,这进一步加剧了挑战。因此,...……更多
旷视开源的AI人像视频生成太炸了!输入照片即可模仿任意表情包
...生成领域,许多工作通常使用高质量的闭源自采数据进行训练,以追求更好的效果。而旷视研究院始终坚持全面开源,确保实际效果的可复现性。MegActor 的训练数据全部来自公开可获取的开源数据集,配合开源代码,使得感兴趣...……更多
AI “早筛” 癌症,准确区分13种癌症,准确率98.2%,人类尽早治疗癌症还远吗?
...疗。日前,来自伦敦帝国理工学院和剑桥大学的研究团队训练了一种人工智能模型——EMethylNET,通过观察 DNA 甲基化模式,从非癌组织中识别出 13 种不同类型的癌症(包括乳腺癌、肝癌、肺癌和前列腺癌等),准确率高达 98.2%...……更多
大模型新趋势之MoE:现状、挑战及研究方向
...门控模型控制专家模型的选择和加权混合。简言之,MoE在训练过程通过门控模型实现“因材施教”,进而在推理过程实现专家模型之间的“博采众长”。 图1MoE架构原理示意图1MoE的特征优势是专家化、动态化、稀疏化,在模型研...……更多
类Sora模型能否理解物理规律?字节豆包大模型团队系统性研究揭秘
...模型是否准确?它能否泛化到新的情况,即那些不仅仅是训练数据插值的情形?这些问题至关重要,决定了生成图像的应用范围 —— 是仅限于媒体生产,还是可以用作现实世界的可靠模拟。最后他指出,不能简单地通过拟合大...……更多
4轮暴训,Llama 7B击败GPT-4!Meta等让LLM「分饰三角」自评自进化
...秒杀自我奖励模型。LLM对数据的大量消耗,不仅体现在预训练语料上,还体现在RLHF、DPO等对齐阶段。后者不仅依赖昂贵的人工标注数据,而且很可能让人类水平限制LLM的进一步发展。今年1月,Meta和NYU的团队就提出了语言模型的...……更多
提升开户效率、控制合规风险,大模型助力券商提质增效
...佳;长文提取关键字段信息难,段落之间没有关联关系;训练样本需求庞大,训练时间长等。 北京商报记者了解到,腾讯云TI-OCR平台通过搭载大模型能力,有效解决了图像干扰、混合版式、表格结构化识别等OCR领域核心痛点。...……更多
首个可保留情感的音频LLM!Meta重磅开源7B-Spirit LM,一网打尽「音频+文本」多模态任务
...研究领域,但现有的模型要么在仅包含语音的数据上进行训练,要么是关注特定任务,如文本转语音(TTS)、自动语音识别(ASR)或翻译,在其他模态数据和任务上的泛化能力十分有限。在大型语言模型(LLM)性能不断提升的情...……更多
迈向多语言医疗大模型:大规模预训练语料,开源模型与全面基准测试
...源。MMedBench 上的准确率,图 d 展⽰了在 MMedC 上进⼀步预训练使模型性能相⽐于基线显著提升。大规模多语医疗语料(MMedC)构建在构建数据集方面,研究团队收集了一份多语言医疗语料库,命名为 MMedC。该数据集包含 255 亿 token...……更多
中国科技创新“乘”数直上
...各地正在积极布局。2024年,北京将推动算力中心、数据训练基地、国家区块链枢纽节点等一批重大项目落地。江苏将体系化推进5G、千兆光网规模部署,支持苏州国家级互联网骨干直联点建设,加快智能算力、边缘计算等算力设...……更多
大模型“遍地”都是,谁能真正解放生产力?
...示,产业大模型是结合特定行业或领域的数据和场景进行训练的。同时,产业大模型还会针对行业特点,特定强化模型在某些领域的(如交通场景关注的视频、图片理解能力)能力,更聚焦于行业关注的场景项目。因此产业大模...……更多
前瞻2024人工智能四大趋势
据消息人士称,OpenAI正在训练下一代的人工智能,暂名“Q*”(读作Q-star)。新的一年,OpenAI下一代产品可能发布数据瓶颈指的是可用于训练AI的高质量数据的有限性,合成数据有望打破这一瓶颈。除了对大量高质量数据的需求...……更多
OpenAI掀小模型血战!苹果DCLM强势登场,碾压Mistral 7B全开源
...迄今为止性能最好的「真正开源」的模型,不仅有权重和训练代码,而且是基于开放数据集DCLM-Baseline。相比模型性能,DCLM做出的「真正开源」的典范更加引人关注。对比大部分科技巨头只搞闭源模型,或「犹抱琵琶半遮面」,...……更多
与OpenAI o1技术理念相似,TDPO-R算法有效缓解奖励过优化问题
...,生成合理的推理过程,并将这些推理融入到其强化学习训练过程中。强化学习技术能够显著提升模型解决复杂问题的能力,尤其是在 o1 所采用的细粒度奖励机制的加持下。这种奖励机制为模型的每一步推理提供细粒度的反馈...……更多
硬件在人工智能基础教育中的角色: 机遇和挑战
...对大数据模型如transformer和Mamba架构的研究),以及网络训练方法。 二、人工智能在基础教学中面临的问题 叶琛博士认为,在人工智能领域,两个研究领域各有优势和特点,在人工智能教育中就会出现“教什么”的困难。深度...……更多
较传统采标方法降本80%,合成数据服务商「卓印智能」获天使轮融资 | 36氪首发
...之前耗尽所有“高质量数据”。AI模型需要大量高质量的训练数据,才能生成准确、多样、无偏见的输出,但获取这种数据的成本和难度都很高——因此,合成数据成为一个有效解决手段。现在,包括微软、OpenAI、Cohere在内的公...……更多
87.8%准确率赶超GPT-4o登顶!谷歌DeepMind发布自动评估模型FLAMe
...权等问题。另一方面,直接使用模型输出进行自动评分器训练可提供一致性,但也存在风险,包括强化偏见和幻觉。此外,它可能违反专有LLM服务的使用条款,条款禁止使用其模型的输出来开发竞争模型。为了解决这些限制和显...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
大模型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型...……更多
千行百业加速拥抱大模型(AI前沿观察)
...模型数量排名全球第二,涌现出一批具有行业影响力的预训练大模型。工业和信息化部新闻发言人陶青表示:“以大模型为代表的人工智能发展呈现出技术创新快、应用渗透强、国际竞争激烈等特点,深刻改变制造业生产模式和...……更多
别只盯着ChatGPT版Her,多模态AI拟人互动上,国内玩家也支棱起来了
...赛队伍需要利用少量有标签和大量无标签数据视频数据来训练自己的模型,并对模型在无标签数据集上的表现和泛化能力进行评估。该赛道获胜的关键在于通过改进半监督学习技术来提高模型情感识别性能,比如预测情绪类别的...……更多
o1 基石论文火爆传阅:Ilya 仍是关键先生,核心项目清北校友闪光
...tcome supervision)和过程监督(process supervision)两种方法在训练奖励模型上的效果。结果监督侧重于模型最终输出的正确性。而过程监督则关注模型在推理过程中每一步的正确性,能够指出答案中具体哪一步是错的:团队使用 GPT-4...……更多
AI数据之战:大模型的“燃料”还能烧多久?
真实数据即将耗完,合成数据训练成替代品?作者/ IT时报记者 贾天荣编辑/ 王昕AI时代,高质量、规模庞大且安全可靠的语料库已成为构建强大AI模型的基石。近日有外媒报道,OpenAI使用所有公开可用的数据来训练ChatGPT,包...……更多
o1突发内幕曝光?谷歌更早揭示原理 大模型光有软件不存在护城河
...,达到与最佳N策略相同效果,计算量仅为其1/4。在与预训练计算相当的FLOPs匹配评估中,对比PaLM 2-S*(使用计算最优策略)一个14倍大的预训练模型(不进行额外推理)。结果发现,使用自我修订方法时,当推理tokns远小于预训...……更多
首个多模态连续学习综述,港中文、清华、UIC联合发布
...能够不断从新数据中学习,而无需进行所有旧数据的重新训练。连续学习的主要挑战是灾难性遗忘:当任务按顺序训练时,新的任务训练会严重干扰之前学习的任务的性能,因为不受约束的微调会使参数远离旧任务的最优状态。...……更多
中国科学院地化所发布国际首个月球专业大模型,基于通义大模型及阿里云百炼专属版打造
...结合RAG检索增强等技术,于阿里云百炼专属版进行微调及训练。目前在月球撞击坑年代和形态判别上,月球专业大模型的准确率已达到80%以上。中国科学院院士、中国月球探测工程首任首席科学家欧阳自远表示,随着人类深空探...……更多
张云泉:集中力量,促进国产AI大模型发展
...据、算力和算法成为新时代的关键资源。大模型的开发、训练、微调及推理各个环节均离不开算力,且算力成本占据整体开销的大头。可以说,算力成为支撑大模型发展的关键因素,也是科技竞争的战略高地。在大规模的前端产...……更多
SIGGRAPH上首个Real-Time Live的中国团队用生成式AI创建3D世界
...三维重建的过程。由于可以利用大量的 2D 图像数据进行训练,这类模型往往能够生成多样化的结果。但又因为 2D 扩散模型的 3D 先验能力不足,这类模型对 3D 世界的理解能力有限,容易生成几何结构不合理的结果(比如有多个...……更多
Sam Altman或筹数十亿美元自造AI芯片,DeepMind首席科学家或将辞职创业
...美元,计划建立全球性的半导体晶圆厂网络,以应对GPT-5训练中的芯片短缺问题。GPT-5预计需要5万张H100芯片。为了获得算力基础设施的独立性,OpenAI决定不再依赖英伟达,而是自行建立AI芯片生产线。Altman担心,随着AI技术的普...……更多
更多关于汽车的资讯:
江铃·溪桥工程再次走进资溪  NO.452座爱心桥顺利奠基
12月22日,江铃·溪桥工程共建美好乡村捐赠仪式暨第452座爱心桥奠基在江西省抚州市资溪县彭田村举行,江铃汽车股份有限公司
2024-12-22 20:33:00
鸿蒙智行“四界”老总同框直播!定了个大目标,透漏多个信息
鲁网12月22日讯12月19日,鸿蒙智行的年度直播如约而至,“四界”老总首度同框,定了个大目标,更透漏出鸿蒙智行多个信息
2024-12-22 16:25:00
电动小G只要9.98万元起,iCAR V23到底卖给谁?
什么定位?iCar V23定位:A级新能源越野风格SUV,注意风格这个词,橙味汽水不一定有橙汁,很多人买Timberland
2024-12-21 13:58:00
躲不掉的付航,绕不开的思域
随着脱口秀演员付航荣获年度总冠军,“人生就要充满Passion”,也成为网络热梗,如同一股暖流,激荡着每个人的心田。没有人能永远年轻
2024-12-21 13:55:00
星舰7爆单《启示录》:没有永远的强者
有一种交付速度,叫星舰7。截止12月19日,星舰7交付破10000辆。此时距离星舰7上市仅仅13天。上市阶段交付速度超越同级竞品
2024-12-21 13:55:00
星纪元ET四驱“钉胎”爬雪坡遭质疑,销量低迷局面何时破?
都说奇瑞是理工男,不会玩儿营销,但是星途星纪元似乎是个例外。就拿星纪元ET在5月上市时来说,就先后做过-30℃24小时浸泡冰封极限挑战
2024-12-21 13:56:00
年末还纠结买什么车?这款大牌好开到心趴上了
随着年末临近,汽车市场迎来了又一波购车热潮。众多消费者在这个时间点纷纷选择入手新车,以迎接新的一年。然而,面对琳琅满目的车型选择
2024-12-21 13:56:00
奇瑞iCAR V23,9.98万能买到哪些配置?续航为何仅301公里
奇瑞iCAR V23是一款方盒子纯电SUV,当方盒子的高风阻遇上10万级纯电车型的小电池,就会发生奇妙的化学反应,大部分潜在用户冲着颜值而来
2024-12-21 13:56:00
从国产汽车销量目标达成率看,哪些新势力品牌值得考虑?
今年11月,国内新能源汽车销量达到了142.9 万辆,环比增长 9.7%,同比增长 53.8%;且1-11 月国内新能源汽车累计销量达1012
2024-12-21 13:57:00
续航短、严重减配,用户纷纷退订iCAR V23,直言套路太多!
骄傲必自满。先有奇瑞风云A8L被指责套路多,又有奇瑞iCAR V23迷之减配,被用户吐槽毫无诚意,大量用户纷纷退订。在上市后不到48小时
2024-12-19 13:40:00
新能源中大型SUV决战2025丨汽势观察
汽势Auto-First丨张嘉文2025年,新能源汽车市场的竞争将进入白热化阶段,卷生卷死加速淘汰,而中大型SUV领域无疑将成为这场激烈角逐的主舞台
2024-12-19 13:41:00
年轻人的礼物!起售9.98万元,奇瑞iCAR V23上市
近几年,方盒子SUV可算是彻底火了起来。个人认为,其实大部分人买方盒子SUV还是以城市出行为主,能不能越野倒是次要,最重要的还是在于凹造型
2024-12-19 13:41:00
年终抄底最高降6.4万!8万元就能拥有热门合资紧凑SUV
如今汽车市场竞争的激烈和残酷,让很多油车的价格实现了进一步下探。曾经说油电同价,现在油比电低的车型比比皆是,特别是在比亚迪喊出998之后
2024-12-19 13:41:00
21家智驾企业裁员降薪或原地解散 淘汰赛正上演?
【文/财圈社&道哥说车 张浅】今年以来,伴随着价格战的持续升级,汽车行业内部也陷入大震荡,据《财圈社&道哥说车》编辑不完全统计
2024-12-19 13:42:00
汽车保值率猛跌,TA为何成保值范本?
汽车越来越不保值了。2022年至今,我国汽车三年保值率呈下跌趋势,更具体更残酷点来说:震荡下跌。相比2022年2月72
2024-12-19 13:42:00