• 我的订阅
  • 头条热搜
清华团队开源大模型推理引擎“赤兔Chitu”:硬件成本削减50%
快科技3月14日消息,据报道,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布,开源大模型推理引擎“赤兔Chitu”。这一突破性技术为国产AI芯片的广泛应用和生态建设带来了新的机遇。“赤兔Chit...……更多
...了来自奇绩创坛的种子轮融资。清昴智能创始团队来自于清华计算机系,在边缘计算和模型自动压缩方向有十余年积累;创始人关超宇曾获清华大学研究生特奖,在研究生期间主导开源了首个自动图学习平台AutoGL,并带队获得过...……更多
...愈加清晰。在人才组织层面,清昴智能核心成员主要来自清华大学、华为、阿里等高校和公司。创始人兼CEO关超宇毕业于清华大学计算机系,2021年西尔贝学者奖学金获得者(全球不到百人),并带队研发世界首个自动图学习项...……更多
无问芯穹夏立雪:破解算力焦虑,我做了大模型算力领域的“淘宝”丨36氪专访
...业至今的第一感受依旧是——算力不够用。近期,有一家清华系创业公司瞄准了这一痛点。这家公司叫「无问芯穹」,项目发起人则是清华大学电子工程系主任汪玉,创始人是他的学生夏立雪。因此,这家公司连名字都有着浓浓...……更多
技术奇迹!清华突破大模型算力难题 RTX 4090单枪匹马就能跑满血版DeepSeek
快科技2月15日消息,清华团队突破大模型算力难题,这让英伟达情何以堪。据国内媒体报道称,清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新,成功打破大模型推理算力门槛。此次KTransformers项目更...……更多
4090笔记本0.37秒直出大片!英伟达联手MIT清华祭出Sana架构,性能秒杀FLUX
...导读】一台4090笔记本,秒生1K质量高清图。英伟达联合MIT清华团队提出的Sana架构,得益于核心架构创新,具备了惊人的图像生成速度,而且最高能实现4k分辨率。一台16GB的4090笔记本,仅需0.37秒,直接吐出1024×1024像素图片。如...……更多
大模型新趋势之MoE:现状、挑战及研究方向
...加快研发各种新型MoE架构,以提升模型性能或实用性。如清华和微软联合提出MH-MoE5,通过多头机制弥补MoE原始缺陷,实现专家激活率由8.33%提升至90.71%,提升模型高效扩展能力;华为提出全新LocMoE架构,并将其嵌入盘古大模型,...……更多
...eek点燃的火种,成为推动智能革命的熊熊烈火。(作者系清华大学计算机系长聘副教授、面壁智能首席科学家) ……更多
智能体不够聪明怎么办?清华&蚂蚁团队:让它像学徒一样持续学习
...解决,而是需要更系统化的方法。在 NeurIPS 2024 上,来自清华大学和蚂蚁集团的研究者针对人工智能体构建方法的通用性和适应性提出了一个新方案。这个被命名为AMOR(Adaptable MOdulaR knowledge agent)的系统,不仅能低成本地调用专...……更多
联想发布端侧AI新技术 PC本地推理能力媲美 OpenAI-mini
...果 —— “联想推理加速引擎”。据了解,这款由联想、清华大学及无问芯穹联合研发的推理引擎,是专为高效AI PC推理而设计的软硬件协同优化平台,可以让一台普通PC的本地推理能力,媲美OpenAI去年发布的o1-mini云端模型。“...……更多
...称项目训练成本不到30美元。“二次创造”增强AI普惠性清华大学计算机系长聘副教授刘知远接受记者采访时说,部分海外研究团队使用DeepSeek-R1、o1等高性能推理大模型来构建、筛选高质量长思维链数据集,再用这些数据集微调...……更多
...,如何让大模型早日走进寻常百姓家成为行业一大命题。清华系人工智能初创公司面壁智能近日发布端侧模型面壁MiniCPM,探索破解大模型应用落地成本与门槛过高的行业痛点。所谓端侧模型,通俗来讲就是无需连接网络、无需...……更多
清华汪玉创始公司浮出水面,要做大模型一体机,仍是“深鉴式”师生组合拳
衡宇 发自 凹非寺量子位 | 公众号 QbitAI清华大学电子工程系系主任汪玉,再一次躬行实践“产学结合”。具体领域,与大模型紧密相关。量子位获悉,汪玉担任创始人身份的新公司无问芯穹,主要做大模型推理用一体机,以及...……更多
中国也有Sora同款训练架构公司,清华班底,智谱也投了 | 36氪首发
... | 周鑫雨编辑 | 邓咏仪全球首家发布Sora同款底层架构的清华系模型公司,近期完成了新一轮融资。投资名单中,也出现了大模型独角兽智谱AI的身影。36氪获悉,近日多模态AI模型公司生数科技完成新一轮数亿元融资。该轮融资...……更多
清华开源混合精度推理系统MixQ:大模型近无损量化并提升推理吞吐
...键部署LLM混合精度推理,端到端吞吐比AWQ最大提升6倍!清华大学计算机系PACMAN实验室发布开源混合精度推理系统——MixQ。MixQ支持8比特和4比特混合精度推理,可实现近无损的量化部署并提升推理的吞吐。△图1 MixQ吞吐与已有开...……更多
5年投资超1000亿,北京公布一系列AI重磅成果,北大清华百度蚂蚁微软大佬齐谈AI未来|钛媒体AGI
...京大学教授、中国科学院院士鄂维南;中国工程院院士、清华大学信息科学技术学院院长戴琼海;百度CTO王海峰;蚂蚁集团CTO何征宇;微软全球资深副总裁、Microsoft AI亚太区总裁张祺;远期人工智能研究中心主任曾毅等多位嘉宾...……更多
再融近5亿!清华系AI创业新势力,成最吸金“算力运营商”
...笔近5个亿新融资,投向AI大模型领域。量子位独家获悉,清华系AI创业公司无问芯穹完成了近5亿元A轮融资。加码的股东阵容很全、很豪华:一口气新增15家股东,涵盖北京上海等地的国资/地方基金,顺为资本/达晨财智等市场化...……更多
CPU,正在被AI时代抛弃?
...以通过语音识别技术被录入到病例系统中,随后大模型AI推理技术辅助进行智能总结和诊断,医生们撰写病例的效率显著提高。AI推理的应用不仅节省了时间,也保护了患者隐私;在法院、律所等业务场景中,律师通过大模型对...……更多
清华大学孙富春:大模型+机器人可能会导致失业,未来80%的人工劳动会被取代
搜狐科技《思想大爆炸-对话科学家》栏目第42期,对话清华大学计算机系教授,清华大学人工智能研究院智能机器人中心主任孙富春。嘉宾简介:孙富春,清华大学计算机科学与技术系教授,博士生导师,清华大学校学术委员...……更多
英博云多款智算产品发布,首提「单位有效算力成本」新指标
...和环境配置效率。目前,英博云GPU容器服务已经开始服务清华大学、中国人民大学等高校科研机构及中小微企业。先进算力实验室先进算力实验室致力于成为业界顶尖的算力性能评测中心,实验室围绕硬件评测、软件评测以及行...……更多
清华团队提出大模型“密度定律”;足球领域首个视觉语言基础模型
...关注的大模型前沿论文SwiftEdit:50 倍速文本引导图像编辑清华团队提出大模型“密度定律”足球领域首个视觉语言基础模型Aguvis:首个完全自主的纯视觉 GUI agentGoogle DeepMind:利用运动轨迹控制视频生成大模型数学新基准:成功...……更多
影响英伟达根本逻辑的大争论:OpenAI改变策略意味着什么?谁在撒谎?
大模型预训练“缩放定律”定律失效?模型推理成“解药”,英伟达一家独大格局要变天?“缩放定律”指导下,AI大模型预训练目前遭遇瓶颈。据路透12日报道,硅谷主要AI实验室的新模型训练计划目前普遍进展不顺,新模型...……更多
AI推理速度提升超10倍,Groq LPU能否取代英伟达GPU?
...美国人工智能初创公司Groq最新推出的面向云端大模型的推理芯片引发了业内的广泛关注。其最具特色之处在于,采用了全新的Tensor Streaming Architecture (TSA) 架构,以及拥有超高带宽的SRAM,从而使得其对于大模型的推理速度提高了1...……更多
DeepSeek发布最新NSA技术论文!创始人梁文锋参与引人注目
...场景),扩展了大语言模型在文档分析、代码生成、复杂推理等领域的应用边界。同时,NSA通过针对现代硬件的优化设计,在提高推理速度的同时、降低预训练成本,而不会牺牲性能。它在通用基准测试、长文本任务和基于指令...……更多
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!
...元导读】史上最快Transformer芯片诞生了!用Sohu跑Llama 70B,推理性能已超B200十倍,超H100二十倍!刚刚,几位00后小哥从哈佛辍学后成立的公司Etached,宣布再融资1.2亿美元。有史以来最快的Transformer芯片,刚刚诞生了?去年21岁哈佛...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...占绝对大头的因素——算力。 现在提及大模型的训练和推理,很多人的第一反应或许就是想到了GPU。诚然GPU在高性能上占据着一定的优势,但它所存在“硬伤”也是比较明显,那便是供应不足、价格昂贵。何以破局?国产大模...……更多
...2019年,是中国最早研究大模型的机构之一。公司脱胎于清华大学知识工程实验室,由清华大学教授唐杰带领团队孵化。截至目前,智谱AI已完成十余轮融资,融资额超160亿元,投后估值超过200亿元,投资方包括君联资本、高瓴创...……更多
面壁智能发布2B模型:适配主流手机,推理成本仅为GPT-4的1/360 | 最前线
...在MMLU(多任务语言理解)、Knowledge(知识)、Reasoning(推理)、Comprehension(理解)等关键指标上均超越了Meta Llama 2的13B模型。这一个故事,在2024年2月1日的发布会上,也被AI模型层公司面壁智能的CEO李大海不断提起。对标Mistral..……更多
奇绩创坛2023春季路演日:60个项目,超一半与大模型相关,企服项目占比第二
...环境中节省成本上千万元。团队介绍:创始人/CEO胡效赫清华大学本硕博,博士和博后期间参与项目的累积经费数千万元,主导落地首个运营商Tbps级商用可编程网络,成功在超算平台训练千卡七百亿参数大模型;创始人/CTO瞿孝荣...……更多
空天信息+人工智能 中国科研团队成功研发遥感智能训推一体机
...发成功一款命名为“空天·灵犀”的遥感智能训(训练)推(推理)一体机。“空天·灵犀”遥感智能训推一体机。中国科学院空天院 供图“空天·灵犀”遥感智能训推一体机搭载的高精度、高时效轻量化基础模型,能够在自然资源、...……更多
更多关于科技的资讯:
科拓生物亮相首届精准营养大会,引领益生菌产业精准化变革
8月17-19日,中国营养学会精准营养产业分会主办的第一届精准营养产业大会在上海盛大启幕。本届大会以“创新新生态,转化新标准”为主题
2025-08-21 10:53:00
英特尔成立UQD互插互换联盟:携手五大伙伴,共筑液冷生态新未来
今日,英特尔®通用快接头(下称UQD)互插互换联盟正式成立。成立仪式上,英特尔与首批认证合作伙伴——英维克、丹佛斯、立敏达科技
2025-08-21 10:55:00
安全护航真诚相遇 珍爱网筑起坚固反诈防线为爱保驾护航
从清晨醒来手机收到的一条天气提醒,到开启旅途的一份行程规划,到工作中依赖网络开展的业务往来,再到闲暇时畅游网络世界的娱乐放松……网络已深度融入我们的日常生活与工作
2025-08-21 09:10:00
萍乡构建“返乡即就业”服务体系 已帮扶2万余人达成就业意向
本报讯 信息日报全媒体记者谢梦丽报道:8月19日,记者从萍乡市人社部门了解到,今年以来,针对返乡人员就业工作,萍乡多举措构建“返乡即就业”全周期服务体系
2025-08-21 06:19:00
8月18日,“中国醋都·清徐”陈醋系列产品包装设计大赛启动。本次大赛以“清徐陈醋 健康好醋”为主题,由清徐县醋产业发展和研究中心
2025-08-21 07:20:00
四院士“智”见AI
8月20日,第九届未来网络发展大会在南京上秦淮国际文化交流中心开幕。邬贺铨、李国杰、刘韵洁、郑庆华等专家,在会上开展深度对话
2025-08-21 07:40:00
算力可像“水电”一样便捷取用
未来网络试验设施(CENI)创新试验展台的灵犀导览机器人。紫金山实验室展台。南报网讯(记者张安琪实习生饶嘉萱)8月20日在第九届未来网络发展大会开幕式上
2025-08-21 07:42:00
全球首个!西电“玄知”密码大模型问世!
近日,西安电子科技大学计算机科学与技术学院沈玉龙教授团队在密码大模型方面取得突破性进展,研究成果以“玄知大模型”命名在西部网络安全大会上正式发布
2025-08-20 09:45:00
东方甄选股价跳水,新东方紧急声明
8月19日,东方甄选股价上演“天地板”,早盘一度暴涨逾23%,午后高台跳水,盘后跌20.89%。若以日内高点计算,追高资金在不足两小时内浮亏逾30%
2025-08-20 09:55:00
产业链上的山东好品牌|历时19年,平耐集团为全球建筑与工业装备披上“中国智造”外衣
大众网记者 刘爽 张宁 菏泽报道“作为国家级高新技术企业,平耐集团正以毫米级的品质追求和绿色智能的产业实践,为全球建筑与工业装备披上‘中国智造’的防护外衣……”平耐新材料科技(山东)有限公司(以下简称
2025-08-20 10:39:00
宇树科技发布新款人形机器人预告海报,身高180cm,拥有31个全身自由度,动作灵活且优雅
8月19日晚间,宇树科技发布新款人形机器人预告海报,配文“敬请期待”。根据官方海报显示,新款机器人有1米8大高个,拥有31个关节自由度(6*2+3+7*2+2)
2025-08-20 11:39:00
AI赋能智慧生产 固达电缆销售额上半年增长58%
固达电缆集团厂区展现出一片繁忙景象,叉车穿梭、货车满载,大型行车正将成卷电缆装车发往全国各地。据悉,今年1-6月,固达电缆销售额同比增长58%
2025-08-20 12:05:00
京东宠物上线超百款差异化爆品 确保投资回报 破局同质化内卷
当前,宠物经济持续升温,随着养宠人群年轻化、喂养理念的转变,宠物行业正从基础刚需向多元化、精细化、专业化蜕变。8月19日
2025-08-20 13:47:00
2025全球智慧教育大会|腾讯青少年AIGC创作工坊发布并启动AIGC智创少年计划
2025年8月18-20日,2025全球智慧教育大会在京举行。本次大会聚焦“人机协同催生教育新生态”,探讨新技术与教育深度融合的创新路径
2025-08-20 14:24:00
美橙回收国补遇上开学季,双重补贴引爆年轻消费市场!
——千名潮流数码玩家强势推荐伴随2025年国家第三批消费补贴全面落地,由武汉青云美橙科技服务有限公司运营的美橙回收于八月下旬推出开学季活动“国补遇上开学季
2025-08-20 14:24:00