• 我的订阅
  • 头条热搜
全新小布助手开启新一轮公测!OPPO官宣与联发科技共建大模型端侧化部署方案
10月11日,OPPO宣布与联发科技合作共建轻量化大模型端侧部署方案,通过采用4位量化技术,实现精度不掉点效果下端侧化性能更优,共同推动 AndesGPT 大语言模型和多模态大模型在端侧逐步落地。 AndesGPT 作为OPPO自主训练的生成...……更多
小扎新开源的Llama3.1,要带着套壳大模型追平GPT-4o?
...,开源 AI 界扛把子 Meta AI ,昨晚更新他们最新最强的大模型, Llama3.1 。 这玩意跟上次 Llama3 一样也是三个版本,除了同参数量的 80 亿和 700 亿,这次最亮眼的是他们的超大杯,在老黄数万显卡的供应下,小扎的新模型用了足足...……更多
华为AI存储助力中国移动构建超大规模智算集群
...转自:人民日报《人民日报》(2024年12月19日第 18 版)大模型领域普遍存在规模化定律,即大模型的性能深受模型参数量、数据集大小以及训练算力规模三要素的影响。生成式AI的运行主要基于深度学习原理,其发展离不开海量...……更多
高文院士:鹏城实验室已训练3个大模型,今年底将拥有两万多块卡
...城实验室主任高文发表演讲,分享了鹏城实验室在打造大模型平台上的进展。他表示,大模型训练首先需要一个平台。“现在要想训练一个大模型,需要有几千块卡,甚至上万块卡。”他介绍到,鹏城实验室在2020年就搭建了这...……更多
ICML2024演讲爆火!Meta朱泽园揭秘大模型内心世界:不同于人类推理
...稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com大语言模型 (LLM) 是如何解数学题的?是通过模板记忆,还是真的学会了推理思维?模型的心算过程是怎样的?能学会怎样的推理技能?与人类相同,还是超越了人类?只学一种类...……更多
亚马逊连甩6款大模型!推出3nm AI训练芯片,最强AI服务器算力爆表
...AWS re:Invent大会上,AWS(亚马逊云科技)一口气发布6款大模型、预告2款大模型,还推出3nm第三代AI训练芯片Trainum3及其迄今最强AI服务器Trn2 UltraServer。这是Amazon Nova系列基础模型首次亮牌。包括Micro、Lite、Pro、Premier四……更多
AI落地千行百业,存储痛点凸显,浪潮信息如何助力AI向实?
AI时代,存储不仅是数据的栖息之地,更是AI模型训练、落地过程中的坚实底座。在AI开启的存储行业新周期中,众多厂商已将带宽等性能指标卷至新的高度。然而,这种追求似乎将AI这一复杂应用场景简单地“存储化”了。实际...……更多
大模型新趋势之MoE:现状、挑战及研究方向
2024年,全球主流企业加快推出MoE大模型,1-5月发布千亿以上大模型均采用MoE优化架构,且数量超过近三年总和。MoE大模型架构凭借平衡大模型训推成本和计算效率等优势,更适合处理大规模数据和复杂任务,已成谷歌、OpenAI、...……更多
iPhone可跑2B小钢炮!谷歌Gemma 2来袭,最强显微镜剖解LLM大脑
【新智元导读】谷歌DeepMind的小模型核弹来了,Gemma 2 2B直接击败了参数大几个数量级的GPT-3.5和Mixtral 8x7B!而同时发布的Gemma Scope,如显微镜一般打破LLM黑箱,让我们看清Gemma 2是如何决策的。谷歌DeepMind的小模型,又上新了!就...……更多
【科技早报】联想、英特尔、爱奇艺签署谅解备忘录;国内低轨卫星通信测试成功
...AI PC,并表示AI PC将是能够创建本地知识库,运行个人大模型,支持人工智能计算,运用自然交互的更强大、更具创造能力的智能生产力工具。(证券时报) 网易在成都成立两家新公司天眼查App显示,10月26日,成都协奏影画科...……更多
国内首个官方“大模型标准符合性评测”公布
...委员会人工智能分委会全体会议期间,国内首个官方“大模型标准符合性评测”结果公布,腾讯混元大模型、阿里通义千问等大模型成为首批通过评测的四款国产大模型的其中之二。据介绍,“大模型标准符合性评测”由中国电...……更多
Llama3.1根本卖不动!业内人士:开源模型成本反而更高
Meta的开源大模型Llama 3在市场上遇冷,进一步加剧了大模型开源与闭源之争的关注热度。据外媒The Information报道,Meta的开源大模型Llama 3一直难以在全球最大云厂商——亚马逊的AWS上获得关注,AWS的企业客户更倾向于使用Anthropic...……更多
70倍极致压缩!大模型的检查点再多也不怕
...ICCV、ECCV等顶会上有多项代表性工作发表,在高效大语言模型、视觉模型等领域都有丰富的成果产出,和知名高校和科研机构合作广泛。大模型作为当下 AI 工业界和学术界当之无愧的「流量之王」,吸引了大批学者和企业投入资...……更多
谷歌推出其最先进AI模型Gemini,希望击败GPT-4
...谷歌公司宣布推出其规模最大、功能最强大的新大型语言模型Gemini,其最强大的TPU(张量处理单元)系统“Cloud TPU v5p”以及来自谷歌云的人工智能超级计算机。v5p是今年早些时候全面推出的Cloud TPU v5e的更新版本,谷歌承诺其速...……更多
oppo首个端侧应用70亿参数大模型findx7系列
...的首个听筒/免提双模卫星通话,首个端侧应用70亿参数大模型,首次亮相的潮汐架构等诸多前沿技术。此次宣布的全新技术组合将全面落地下一代旗舰产品FindX7系列,为2024年旗舰手机树立全新的技术标杆,并为消费者带来刷新...……更多
微调大模型,AMD MI300X就够了!跟着这篇博客微调Llama 3.1 405B
随着 AI 模型的参数量越来越大,对算力的需求也水涨船高。比如最近,Llama-3.1 登上了最强开源大模型的宝座,但超大杯 405B 版本的内存就高达 900 多 GB,这对算力构成了更加苛刻的挑战。如何降低算力的使用成本和使用门槛,...……更多
谷歌「诚意之作」,开源9B、27B版Gemma2,主打高效、经济!
...著的能力跟进,可见其技术发展与创新的潜力。除了Gemini模型外,Gemma这一系列轻量级的SOTA开放模型似乎与我们距离更近。它基于Gemini模型相同的研究和技术构建,旨在让每个人都拥有构建AI的工具。谷歌持续扩展Gemma家族,包...……更多
​首个自主机器学习AI工程师,刚问世就秒了o1,Kaggle大师拿到饱
...动化整个 ML 工作流程,节省数千小时工时。Open AI 的推理模型 o1,这么快就被比下去了?本周五,AI 社区见证了又一项突破:一个完全自动化机器学习流程的 AI 工程师,能轻松获得 Kaggle 大师水平,在参与的 50 个 Kaggle 竞赛上获...……更多
...。路宗岳的上班日常,就是和各种数据打交道:确定AI大模型的应用后,首先收集相关数据样本,然后清洗、标注数据,并将数据转化为AI大模型能识别的语言,再将数据“喂”给人工智能学习,接下来就是进行性能训练,在此...……更多
腾讯钟学丹:人工智能成为汽车行业新质生产力 推动数智化升级
...《AI驱动汽车“新智能”》的主题演讲,分享了腾讯AI大模型等新技术在汽车产业的创新应用成果。 腾讯智慧出行副总裁钟学丹钟学丹表示:“人工智能将作为新质生产力,推动汽车产业从数字化向数智化升级。”随着大模型技...……更多
真香!智谱大模型,有了首个免费的API
大模型API,正式进入Flash时代。最近一段时间,国内外的大模型行业卷的是「快速版」。5 月谷歌 I/O 大会上,新发布的 Gemini 1.5 大模型序列中出现了 Flash 版,主打轻量化和响应速度。到 7 月,OpenAI 又在 GPT-4o 的基础上推出了 Min...……更多
生成式AI的抄袭输出问题值得关注(附图片)
...中均包含“screencap”。 (图片来源:IEEE Spectrum)大语言模型(LLM)在多大程度上“记住”了其训练输入内容是一直以来广受关注的问题。而最近的实证研究表明,大语言模型在某些情况下的确可以重现或者生成只包含细小差别...……更多
开源社区参数量最大的文生视频模型来了,腾讯版Sora免费使用
...又多了一个选择!今日,腾讯宣布旗下的混元视频生成大模型(HunYuan-Video )对外开源,模型参数量 130 亿,可供企业与个人开发者免费使用。目前该模型已上线腾讯元宝 APP,用户可在 AI 应用中的「AI 视频」板块申请试用。腾讯...……更多
Yandex推出开源大语言模型训练工具,称可节省高达20%的图形处理器资源
...球科技公司Yandex推出了YaFSDP,这是一种用于训练大型语言模型(LLM)的开源方法。据介绍,YaFSDP是目前在大型语言模型训练中增强图形处理器(GPU)通信并减少内存使用量的公开可用的最有效工具,与FSDP相比,根据架构和参数数量...……更多
昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
...转自:中国新闻网6月3日,昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE,性能强劲,同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来,是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE...……更多
大模型不会推理,为什么也能有思路?有人把原理搞明白了
大模型不会照搬训练数据中的数学推理,回答事实问题和推理问题的「思路」也不一样。大语言模型的「推理」能力应该不是推理,在今年 6 月,一篇 Nature 论文《Language is primarily a tool for communication rather than thought》曾引发……更多
遗憾不?百度早研究过Scaling Law,Anthropic CEO灵感都来自百度
...Scaling Law 的相关研究,并且通过实证研究验证了深度学习模型的泛化误差和模型大小随着训练集规模的增长而呈现出可预测的幂律 scaling 关系。只是,他们当时用的是 LSTM,而非 Transformer,也没有将相关发现命名为「Scaling Law」...……更多
新视角设计下一代时序基础模型,Salesforce推出Moirai-MoE
...领域正在经历重大转型,从传统的「单一数据集训练单一模型」的模式逐步转向「通用预测基础模型」。目前虽然有不少基础模型已经提出,但如何有效地在高度多样化的时序数据上训练基础模型仍是一个开放问题。近期,来自...……更多
摩尔线程、360达成战略合作!打造360智脑国产算力底座
...。此次联手旨在聚焦数字安全、信息与数字化服务以及大模型等领域的创新应用,共同构建一个更加强大、可靠的人工智能生态系统,为各行各业提供先进的技术支持和服务。双方还将携手打造“360智脑大模型一体机”,加速推...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...押注人工智能领域最大的赌注——一种只能运行Transformer模型的芯片,但其运行速度比GPU快几个数量级。也许注意力确实是你所需要的全部...」 Pika研究人员表示,每秒50万token简直太疯狂了。你可以在2秒内写出「圣经」,或者...……更多
更多关于科技的资讯:
又到了每年山东跪拜刷屏的日子 网友:礼仪之邦
1月29日消息,据媒体报道,今天是大年初一,又到了每年山东硬核拜年刷屏的日子,大家排队下跪磕头。网友表示,不愧是礼仪之邦
2025-01-29 12:37:00
余承东用华为Mate XT给大家拜年:祝大家屏屏见喜 强得飞起
快科技1月29日消息,今天是大年初一,余承东用华为三折叠屏Mate XT非凡大师给大家拜年,祝大家一开迎春,二开纳福,三开大展鸿图
2025-01-29 13:37:00
春晚机器人下场时脚步直哆嗦:春晚最靓的仔
快科技1月29日消息,在央视蛇年春晚中,创意融合舞蹈节目《秧BOT》引起了广泛的关注。这些机器人下场时拿手绢脚步直哆嗦
2025-01-29 14:07:00
金晨给被砸中的小孩儿道歉:本想扔给观众的吉祥物正中你后脑勺
1月29日消息,今天,微博话题“金晨你怎么可以捅这么大的篓子”冲上热搜榜。据报道,在昨天的央视春晚舞台上,演员金晨把手里的蛇年吉祥物扔了出去
2025-01-29 14:07:00
B站蛇年春晚直播观看人数超1亿!30岁以下观众超八成
快科技1月29日消息,B站是央视蛇年春晚独家弹幕视频合作平台,今日已经公布了除夕当晚的相关数据。除夕当晚,B站春晚直播间观看人数创历史新高
2025-01-29 15:37:00
马丽甲状腺冲上热搜第一 网友喊话:丽姐注意身体
1月29日消息,微博话题“马丽甲状腺”冲上热搜榜第一名。据报道,在2025年央视蛇年春晚舞台上,沈腾、马丽演绎小品《金龟婿》
2025-01-29 16:07:00
今年春晚上小米SU7 Ultra车模又被“薅”走了:只剩底座
快科技1月29日消息,昨晚的春晚开始之前,小米集团董事长特别助理、战略市场部副总经理徐洁云透露,去年春晚现场首次登台的小米SU7车模散场后被“带走”
2025-01-29 16:07:00
春晚小品呼唤小爱同学!小米:全球小爱同学被唤醒超亿次
快科技1月29日消息,在今年的春晚上,小品《小明一家》节目上呼叫了小爱同学,主角小明的爷爷提出有问题找同学,小明爸爸问找什么同学
2025-01-29 16:37:00
270亿次!2025年央视春晚传播数据再创新高:破多项纪录
快科技1月29日消息,据官方数据,截至1月29日2时,央视春晚全媒体累计触达168亿人次,比去年增长了18.31%,其中移动端受众规模3
2025-01-29 17:07:00
温暖无数观众!春晚王菲唱的歌原来改了一个字
1月29日消息,据媒体报道,时隔七年,王菲带着一首《世界赠与我的》第五次登上春晚舞台,温暖了无数观众。这首歌由袁晶作词
2025-01-29 17:37:00
春晚机器人失误是故意设计的彩蛋:未来或能替人上班
1月29日消息,据媒体报道,在央视春晚上,宇树科技人形机器人H1登上舞台与人类演员共同呈现了名为《秧Bot》的节目。它们动作流畅
2025-01-29 17:37:00
“DeepSeek甚至绕过了CUDA”!论文细节再引热议 工程师灵魂提问:英伟达护城河还在吗
英伟达刚刚从DeepSeek-R1引发的4万亿元暴跌中缓过劲来,又面临新的压力?硬件媒体Tom‘s Hardware带来开年最新热议
2025-01-29 18:07:00
豆瓣9.1口碑神剧!《家有儿女2》明日上线B站
快科技1月29日消息,上周,童年神剧《家有儿女》第一季正式上线B站,会员可免费观看全集。根据B站官方预告,《家有儿女》第二季也将在明天正式上线
2025-01-29 18:07:00
高通骁龙X2新系列CPU现身!比Elite更加高端
快科技1月29日消息,高通的第二代骁龙笔记本电脑芯片正在开发中,且相关SKU已出现在发货清单上。据Olrak_29透露
2025-01-29 20:07:00
力挺!Intel前CEO已在新公司用DeepSeek代替OpenAI
快科技1月29日消息,英特尔前CEO帕特·基辛格(Pat Gelsinger)日前在社交平台发文,高度赞赏了开源AI推理模型DeepSeek
2025-01-29 20:37:00