- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
清华团队开源大模型推理引擎“赤兔Chitu”：硬件成本削减50%
类别：科技 发布时间：2025-03-14 17:22:00 来源：浅语科技
快科技3月14日消息，据报道，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布，开源大模型推理引擎“赤兔Chitu”。这一突破性技术为国产AI芯片的广泛应用和生态建设带来了新的机遇。
“赤兔Chitu”首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型，解决了FP8精度模型对英伟达Hopper架构（如H100/H200）的硬件依赖。
在A800集群的测试中，赤兔引擎在GPU使用量减少50%的情况下，推理速度提升了3.15倍，显著降低了企业的硬件成本，同时提高了性能输出。
赤兔引擎的智能优化技术能够快速适配不同芯片架构，使国产厂商无需重复开发软件，专注于硬件升级。目前，清程极智已与沐曦、燧原等厂商合作，推出“开箱即用”的推理一体机，广泛应用于金融、医疗等行业。
清程极智CEO汤雄超表示，当前国内在推理引擎这一核心环节仍缺乏生产级开源产品。开源“赤兔”引擎是推动国内AI生态建设的重要一步，将为行业提供更高效、更灵活的技术支持。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：鹿角
文章内容举报
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2025-03-14 20:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于清华,推理,模型,团队,成本,硬件的资讯：
...了来自奇绩创坛的种子轮融资。清昴智能创始团队来自于清华计算机系，在边缘计算和模型自动压缩方向有十余年积累；创始人关超宇曾获清华大学研究生特奖，在研究生期间主导开源了首个自动图
2023-06-25 08:51:00
...愈加清晰。在人才组织层面，清昴智能核心成员主要来自清华大学、华为、阿里等高校和公司。创始人兼CEO关超宇毕业于清华大学计算机系，2021年西尔贝学者奖学金获得者（全球不到百人
2024-06-03 15:23:00
...业至今的第一感受依旧是——算力不够用。近期，有一家清华系创业公司瞄准了这一痛点。这家公司叫「无问芯穹」，项目发起人则是清华大学电子工程系主任汪玉，创始人是他的学生夏立雪。因此
2024-04-03 18:19:00
快科技2月15日消息，清华团队突破大模型算力难题，这让英伟达情何以堪。据国内媒体报道称，清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新
2025-02-15 10:52:00
...导读】一台4090笔记本，秒生1K质量高清图。英伟达联合MIT清华团队提出的Sana架构，得益于核心架构创新，具备了惊人的图像生成速度
2024-10-18 09:49:00
...加快研发各种新型MoE架构，以提升模型性能或实用性。如清华和微软联合提出MH-MoE5，通过多头机制弥补MoE原始缺陷
2024-11-04 16:00:00
...解决，而是需要更系统化的方法。在 NeurIPS 2024 上，来自清华大学和蚂蚁集团的研究者针对人工智能体构建方法的通用性和适应性提出了一个新方案
2024-12-11 09:53:00
...果 —— “联想推理加速引擎”。据了解，这款由联想、清华大学及无问芯穹联合研发的推理引擎，是专为高效AI PC推理而设计的软硬件协同优化平台
2025-05-07 11:10:00
更多关于科技的资讯：
电商物流共享给南和宠物食品带来什么——河北特色产业集群共享智造故事（九）漫步邢台市南和区，宠物元素扮靓了街头巷尾。一家家宠物食品公司车间厂区里
2025-12-28 07:44:00
12月26日，位于杭州云栖小镇的国家机器人检测与评定中心（总部）浙江检测中心（以下简称“浙江检测中心”）正式启用。机器人从样机走向量产
2025-12-27 08:10:00
近日，深圳市米糠云科技有限公司顺利通过ISO27001信息安全管理体系认证与ISO9001质量管理体系认证。这标志着公司在信息安全管理和质量管理方面达到了国际标准
2025-12-27 14:34:00
近年来，电商与直播电商的迅猛发展，不仅催生出庞大的正向物流需求，更让逆向物流成为快递行业名副其实的“蓝海”。消费者退换货需求呈爆炸式增长
2025-12-27 14:36:00
岁末迎新，跨年不只是一种仪式，更是一场表达与传递的情感盛宴。京东今年再度打造“年度宠粉”跨年盛典，不仅有众多官方直降5折起的尖货好物
2025-12-27 14:36:00
2025年最热门的CPU毫无疑问当属AMD锐龙X3D系列，而技嘉作为AMD核心合作伙伴之一，专为AMD X3D系列处理器量身定制了X870E X3D系列主板
2025-12-27 14:37:00
12月26日，58同城2025“中国好雇主”盛典在深圳举办。作为国内极具影响力的雇主品牌盛会，本届盛典以“数智驱动，百业共生”为核心主题
2025-12-27 14:38:00
鲁网12月27日讯“终于有NFC校园卡了，自己的学校必须给个好评！”“NFC终于上了！” 在华为应用商店的评论区，山东大学师生们的真实留言
2025-12-27 17:30:00
都说“万物皆可短视频”，哪些内容让你眼前一亮？电筒拍大片、夜空光魔法、特效变装秀、用烘焙复刻文物、把大好河山“穿”在身上……在这个创意无限的世界里
2025-12-27 19:55:00
福州新闻网12月27日讯（记者 颜澜萍）近日，福州冶城集团所属企业福建百宝图科技有限公司通过福建省大数据集团旗下福建省数据产权登记平台
2025-12-27 21:00:00
12月26日，杭州市市场监督管理局召开专题新闻通气会，对外公布了2025年不锈钢真空杯与儿童旅游鞋两类产品的质量比对结果
2025-12-27 07:39:00
昨天下午，2025“梦溪杯”宋韵文化创新大赛颁奖典礼在杭州凤凰里文创园举行。自10月15日启动至11月20日截稿，大赛共收到来自英国
2025-12-27 07:39:00
杭州市西湖区后陡门58号，原本只是城市边缘一个普通的小村子，仅仅三年，这里已经蜕变成“种地星”人的共同家园。这个开园仅两个多月的农文旅融合空间
2025-12-27 07:39:00
装有红酒的纸箱从1米多的高度多次抛下，又被送入抗压测试机内，接受300公斤的压力测试，再经斜面冲击台俯冲撞向铁板，红酒依然完好无损……经过这一系列流程
2025-12-27 07:39:00