• 我的订阅
  • 头条热搜
Token化一切,甚至网络!北大&谷歌&马普所提出TokenFormer
...者是汪海洋,北京大学20级博士生,目前主要关注是通用模型的架构设计和学习算法。指导教授主要包括王立威,北京大学智能学院教授;Bernt Schiele,德国马普计算所教授;Federico Tombari 谷歌人工智能科学家等。新一代通用灵活...……更多
让一台普通PC欢快地跑起AIGC:Intel做到了!
...实现足够实用的AIGC,从算力强大的硬件到参数丰富的大模型,从精确合理的算法到高效便捷的应用,缺一不可。我们知道,在过去,AIGC更多在云侧服务器上,虽然性能、模型、算法都不是问题,但一则需要大量的资金投入,二...……更多
开源大模型杀疯了!Mistral新模型三分之一参数卷爆Llama 3.1
Llama 3.1 405B“最强模型”宝座还没捂热乎,就被砸场子了——Mistral AI发布最新模型Mistral Large 2,参数123B,用不到三分之一的参数量性能比肩Llama 3.1 405B,也不逊于GPT-4o、Claude 3 Opus等闭源模型。主打的就是一个高性价比。用官……更多
观察|手机厂商“卷”大模型,人工智能会是下一个竞争赛道吗
手机厂商也加入了“大模型”赛道。11月1日,vivo在开发者大会上正式发布了自研通用大模型矩阵——蓝心大模型BlueLM,以及智能辅助应用“蓝心小V”和以公版App形式推出的自然语言对话机器人“蓝心千询”。科技公司不能错失...……更多
“华米OV”的新战场:手机大模型
...视觉中国文丨光锥智能,作者|刘俊宏,编辑丨王一粟大模型重塑一切的风,吹到了手机行业。在见识了大模型重塑IT基础设施、营销、办公、自动驾驶等行业后,深陷于手机行业销量和技术双周期“低谷”的手机厂商们,急迫...……更多
专家模型不要专家并行!微软开源MoE新路径
...日,来自微软的研究人员开源了使用全新方法训练的MoE大模型,不走寻常路,且编码和数学表现出色。继Phi家族之后,微软又开源了新的混合专家大模型——GRIN MoE。与Phi-3.5同样的个头(16 * 3.8B),却采用了截然不同的训练方法...……更多
信号表征指数级强、内存节省35%,量子隐式表征网络
...结果也证实了 QIREN 的确表现出超越信号表示任务上 SOTA 模型的优异性能,在参数量更少的情况下,拟合误差最多减少 35%。图 1 中展示了本文的核心思想和主要结论。相关论文已经被机器学习领域最权威的会议之一 ICML 2024 接收...……更多
Meta祭出三篇最详尽Llama微调指南!千字长文,0基础小白必备
...开的彻彻底底。这不,Meta一连放出三篇技术文章,从大模型适配方法出发,介绍了:如何使用特定领域数据微调LLM,如何确定微调适配自己的用例,以及如何管理良好训练数据集的经验法则。接下来,直接进入正题。适配大模...……更多
微软发布旗下最小语言模型phi-2
...会已拉开帷幕,微软在本次活动中发布了旗下最小的语言模型Phi-2,共有27亿参数,相比较此前版本有明显提升。注:微软于今年6月发布Phi-1,只有13亿代码,适用于QA问答、聊天格式和代码等等场景。该模型完全基于高质量数据...……更多
全球首次!时序大模型突破十亿参数,华人团队发布Time-MoE,预训练数据达3000亿个时间点
...而,构建一个兼具强大性能与高效运算的大规模时序预测模型始终是一个巨大的挑战。此外,高质量的大型公共时间序列数据库的匮乏进一步加剧了这一难题。近日,由来自普林斯顿大学、格里菲斯大学等全球多地的华人国际科...……更多
...院联合发布Tele-FLM——520亿参数规模高性能开源多语言大模型。据悉,Tele-FLM通过损失预测等技术,提高了基础模型的能力,BPB loss(损失值)指标在英文上优于Llama2-70B(Meta公司大语言模型2-700亿参数版本)和Llama3-8B(Meta公司大...……更多
Sam Altman或筹数十亿美元自造AI芯片,DeepMind首席科学家或将辞职创业
...G42和软银集团。2.能力达到奥数金牌级,DeepMind几何推理模型登上Nature,这个叫AlphaGeometry的模型在国际数学奥林匹克(IMO)的30道几何题中做出了25道,这一成就标志着AI在数学领域推理能力的史诗级升级。3.DeepMind首席科学家Lauren...……更多
首个多模态连续学习综述,港中文、清华、UIC联合发布
...态连续学习的最新进展连续学习(CL)旨在增强机器学习模型的能力,使其能够不断从新数据中学习,而无需进行所有旧数据的重新训练。连续学习的主要挑战是灾难性遗忘:当任务按顺序训练时,新的任务训练会严重干扰之前...……更多
google宣布为gemma系列增加一系列新成员
...年一度的I/O2024开发者大会上宣布为其开放(但非开源)模型系列Gemma增加一系列新成员。其中最引人注目的是Gemma2,它是Google下一代Gemma模型,将于6月份推出,拥有270亿个参数模型。PaliGemma是一种预训练的Gemma变体,Google将其描...……更多
权威AI开源标准1.0版发布:Llama也不算开源
大模型开源的口号,不是随便说说的。该来的终于来了。本周,人工智能领域迎来了对于「开源」的官方定义。开放源代码促进会(Open Source Initiative,OSI)发布了「开源 AI 定义」的 1.0 正式版。此举旨在澄清 Open Source 这一术语...……更多
联想与英伟达联合发布全新液冷AI服务器:可实现万亿参数AI模型
...nkSystem N1380 Neptune,号称在紧凑的设计中实现万亿参数的AI模型。ThinkSystem N1380 Neptune垂直液冷机箱专为行业标准19英寸机架而设计,可实现100%直接温水冷却。其具有8个托盘槽,可容纳多达四个ThinkSystem 15kW 钛金转换电源(PC……更多
盘后暴涨15%!Meta上季度业绩超预期:大裁员降本奏效,继续加码AI
...部署新版自研定制芯片。扎克伯格也强调,培训和运行AI模型在未来将“需要更多的计算资源”,并称公司在AI方面“以获胜作为目标,将继续在这一领域进行大规模投资”。两周前的1月18日,扎克伯格宣布,Meta正在计划构建自...……更多
文生图参数量升至240亿!Playground v3发布:深度融合LLM,图形设计能力超越人类
【新智元导读】Playground Research推出了新一代文本到图像模型PGv3,具备240亿参数量,采用深度融合的大型语言模型,实现了在图形设计和遵循文本提示指令上甚至超越了人类设计师,同时支持精确的RGB颜色控制和多语言识别。自...……更多
《永劫无间》手游首次将具有18亿参数的大语言模型引入终端侧
...,高通公司宣布和智谱、腾讯混元合作,共同推动端侧AI模型部署和落地。骁龙8至尊版芯片AI性能HexagonNPU融合了包含标量(scalar)、向量(vector)和张量(tensor)等AI加速器架构,支持INT4、INT8、INT16和FP16精度,能够利用大型语...……更多
...日电 (记者 刘育英)中国多家手机厂商已在手机中部署AI大模型,或推出AI手机。接受采访的多位专家表示,AI大模型在手机中落地的路径更加清晰,但仍存在部分难点。AI大模型将成为未来手机企业竞争的重要筹码。近日,华为、...……更多
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
文 | 周鑫雨编辑 | 邓咏仪当大模型加速应用落地,运行成本就成为各厂商的现实考量。将模型做小,成为现实市场需求下的趋势。但模型的Scaling Law(规模定律)已指出,参数规模是决定模型性能的最关键因素。如何用更小的参...……更多
Meta第二代自研AI芯片正式投产 欲摆脱英伟达依赖
...与效率平衡。在此处添加图片标题除了更高效地运行推荐模型外,Meta还需要为自家的生成式AI应用,以及正在训练的GPT-4开源竞品Llama3提供算力。扎克伯格此前宣布,计划到今年年底部署35万颗英伟达H100GPU,使得Meta共拥有约60万...……更多
...括:基于第一性能指标实现轮辐概念设计,得到初始车轮模型,所述初始车轮模型的结构为周向循环及一平面对称的结构;对所述初始车轮模型进行变形,得到多个候选车轮模型,并对每个所述候选车轮模型进行仿真分析,得到...……更多
mistralai公司推出mixtral8x22b开源模型
4月11日消息,MistralAI公司近日推出了Mixtral8x22B开源模型,共有1760亿个参数,Context长度(上下文文本)为6.5万个token,可以通过Torrent下载。MistralAI公司自成立以来一直备受外界关注,“6人团队,7页PPT,8亿融资”不断缔造传奇,...……更多
掰开安卓手机 满屏都是三个字:大模型
这年头,安卓厂商没个大模型,都不敢开手机发布会了。前脚OPPO刚用大模型升级了语音助手,后脚vivo就官宣自研手机AI大模型;小米发布会则直接将大模型当场塞进手机系统……其竞争激烈程度,不亚于抢芯片首发。到底是怎...……更多
轻量级的模型亦有其存在的市场空间。2022年11月底,基于GPT-3.5的ChatGPT刚出来的时候,小米集团AI实验室主任、自然语言处理(NLP)首席科学家王斌给ChatGPT抛出一个问题:证明一下勾股定理。最终,ChatGPT给出了一个基于数学归...……更多
...象,只能是客观化的表达。□提示词和参数的使用,是大模型技术背景下人工智能内容生成中独创性的具体化操作行为。提示词和参数的使用,是人类意志因素的体现,也是人工智能生成内容受著作权法保护的正当性基础,更是...……更多
AIGC风潮席卷手机:但在PC面前 还是个弟弟
...方面,对于AI而言,最基础的前提一是算力是否够强大、模型和算法是否够丰富,二就是应用场景是否够广泛、灵活。无需赘言,手机和PC相比无论CPU性能还是GPU性能,根本不在一个档次,即便加入独立的AI引擎,也是看不见尾灯...……更多
高通骁龙:端侧AI 启幕移动智能“芯”时代
...界面里看到的那些“AI”还不太一样,今年的AI专指“AI大模型”这个随ChatGPT火到已经泛滥的概念,是一种基于生成式AI技术的大语言/大视觉模型,主要用于图文相关的自然语义理解、处理乃至于创作生成——即与AI大模型概念同...……更多
CMU&清华:让LLM自己合成数据来学习,特定任务性能同样大幅提升
...赵晨阳,卡内基梅隆大学硕士生贾雪莹。虽然大规模语言模型(LLM)在许多自然语言处理任务中表现优异,但在具体任务中的效果却不尽如人意。为了提升模型在特定自然语言任务上的表现,现有的方法主要依赖于高质量的人工...……更多
更多关于科技的资讯:
周鸿祎批PPT无用:华丽掩盖了空洞!黄仁勋、马斯克都不用
快科技12月27日消息,360集团董事长周鸿祎昨日发布视频,谈到了自己为何特别反感只会“管理”的管理层,其表示:“我特别反感只打嘴炮或者不干活的管理层
2024-12-27 10:08:00
理想全新车机界面曝光:全屏展示智驾轨迹 科幻感十足
快科技12月27日消息,近日,一位博主展示了理想汽车最新的智能驾驶轨迹展示界面,揭示了其车机系统实现端到端驾驶状态的能力
2024-12-27 10:08:00
年底换机购机攻略:还得是年轻人专属华为“nova 13香”
不知不觉2024年马上就要结束了,不少人想趁年底换个新手机,但可能会纠结要选哪款,建议有需求的朋友可以考虑一下华为nova 13系列
2024-12-27 10:08:00
蔚来版“Model Y杀手”:乐道L60上市100天累计交付超20000台
快科技12月27日消息,乐道品牌公布首款车型乐道L60最新数据,其已达成上市100天累计交付超20000台的阶段目标。作为全新的品牌
2024-12-27 10:08:00
本文转自:人民网人民网记者 王绍绍从全球首款自动驾驶物流无人机的大规模商用,到基于AI的个性化药物研发平台的成功构建,再到智能物联网技术在智慧城市中的广泛应用……近年来
2024-12-27 10:31:00
华为首款百万级豪华轿车 尊界S800极寒测试:不怒自威
快科技12月27日消息,鸿蒙智行首款售价超百万的豪华轿车尊界S800已经亮相并开启预售,今日,官方发布了该车的最新官图
2024-12-27 10:38:00
AI的尽头是能源!奥特曼的核能公司Oklo签署重大合作协议
快科技12月27日消息,山姆·阿尔特曼(Sam Altman)的核能公司Oklo宣布了一项重大合作进展,Oklo在12月18日与美国数据中心巨头Switch签署了初步的非约束性协议
2024-12-27 10:38:00
戴先任随着近年来生成式人工智能技术的快速发展以及新职业的落地,与之相关的技能、人才培训市场也日渐火爆。不少培训机构纷纷推出人工智能相关课程
2024-12-27 10:38:00
2024年最后一款大作!网易国产武侠游戏《燕云十六声》PC今日正式公测
快科技12月27日消息,今日,2024年最后一款大作——网易旗下国产武侠游戏《燕云十六声》PC正式公测。官表示,过去几次测试中
2024-12-27 10:38:00
OPPO Find N5春季登场:首款骁龙8至尊版大折叠屏
快科技12月27日消息,OPPO周意保发文预热OPPO Find N5折叠屏,他表示,接下来Find系列的节奏会稳定下来
2024-12-27 10:38:00
索尼不明白《猎人克莱文》有什么不好
索尼影业首席执行官托尼不理解近期上映的《猎人克莱文》为何会失败,该片创下托尼职业生涯最糟糕首映票房。《猎人克莱文》本月14号在北美及中国大陆首映
2024-12-27 10:38:00
未来人类预告18寸巨无霸游戏本:192GB内存、奇特双网口
快科技12月27日消息,未来人类(TerransForce)官方宣布,即将推出一款18寸的巨型游戏本,会配备4K屏幕、192GB内存
2024-12-27 10:38:00
电梯加装背后的成本——项目审计费用知多少
当老旧小区迎来新生,电梯加装成为热议话题,你是否好奇这一改造项目的背后,除了电梯本身的费用,还有哪些隐藏的成本?今天,我们就来聊聊电梯加装中不可或缺的一环——项目审计费用
2024-12-27 10:40:00
齐鲁晚报·齐鲁壹点 于民星数字化时代,人工智能浪潮席卷全球,重塑各个行业格局,成为推动时代进步的重要引擎。工信部成立人工智能标准化技术委员会
2024-12-27 10:44:00
济南市家电圈大事件:海尔聪明风空调震撼发布!
鲁网12月27日讯在这个寒风凛冽的冬日里,济南市家电圈迎来了一场前所未有的盛事!2024年12月25日,所有家电商的精英们纷纷齐聚喜来登酒店
2024-12-27 10:44:00