- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
清华团队开源大模型推理引擎“赤兔Chitu”：硬件成本削减50%
类别：科技 发布时间：2025-03-14 17:22:00 来源：浅语科技
快科技3月14日消息，据报道，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布，开源大模型推理引擎“赤兔Chitu”。这一突破性技术为国产AI芯片的广泛应用和生态建设带来了新的机遇。
“赤兔Chitu”首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型，解决了FP8精度模型对英伟达Hopper架构（如H100/H200）的硬件依赖。
在A800集群的测试中，赤兔引擎在GPU使用量减少50%的情况下，推理速度提升了3.15倍，显著降低了企业的硬件成本，同时提高了性能输出。
赤兔引擎的智能优化技术能够快速适配不同芯片架构，使国产厂商无需重复开发软件，专注于硬件升级。目前，清程极智已与沐曦、燧原等厂商合作，推出“开箱即用”的推理一体机，广泛应用于金融、医疗等行业。
清程极智CEO汤雄超表示，当前国内在推理引擎这一核心环节仍缺乏生产级开源产品。开源“赤兔”引擎是推动国内AI生态建设的重要一步，将为行业提供更高效、更灵活的技术支持。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：鹿角
文章内容举报
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2025-03-14 20:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于清华,推理,模型,团队,成本,硬件的资讯：
...了来自奇绩创坛的种子轮融资。清昴智能创始团队来自于清华计算机系，在边缘计算和模型自动压缩方向有十余年积累；创始人关超宇曾获清华大学研究生特奖，在研究生期间主导开源了首个自动图
2023-06-25 08:51:00
...愈加清晰。在人才组织层面，清昴智能核心成员主要来自清华大学、华为、阿里等高校和公司。创始人兼CEO关超宇毕业于清华大学计算机系，2021年西尔贝学者奖学金获得者（全球不到百人
2024-06-03 15:23:00
...业至今的第一感受依旧是——算力不够用。近期，有一家清华系创业公司瞄准了这一痛点。这家公司叫「无问芯穹」，项目发起人则是清华大学电子工程系主任汪玉，创始人是他的学生夏立雪。因此
2024-04-03 18:19:00
快科技2月15日消息，清华团队突破大模型算力难题，这让英伟达情何以堪。据国内媒体报道称，清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新
2025-02-15 10:52:00
...导读】一台4090笔记本，秒生1K质量高清图。英伟达联合MIT清华团队提出的Sana架构，得益于核心架构创新，具备了惊人的图像生成速度
2024-10-18 09:49:00
...加快研发各种新型MoE架构，以提升模型性能或实用性。如清华和微软联合提出MH-MoE5，通过多头机制弥补MoE原始缺陷
2024-11-04 16:00:00
...解决，而是需要更系统化的方法。在 NeurIPS 2024 上，来自清华大学和蚂蚁集团的研究者针对人工智能体构建方法的通用性和适应性提出了一个新方案
2024-12-11 09:53:00
...果 —— “联想推理加速引擎”。据了解，这款由联想、清华大学及无问芯穹联合研发的推理引擎，是专为高效AI PC推理而设计的软硬件协同优化平台
2025-05-07 11:10:00
更多关于科技的资讯：
中新经纬12月27日电 据“网信中国”微信号，27日，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》
2025-12-28 09:18:00
好消息：2025年12月28日至2026年1月3日，连续7天，“杭州停车”微信小程序将每天放出停车优惠券，总计10000张
2025-12-28 11:45:00
坐落于青岛胶州市上合示范区的海尔上合冰箱互联一工厂，是海尔自创立以来在全球投资最大、智能化程度最高、产业链配套最完整、生态体系最健全的安全生产标杆项目
2025-12-28 15:05:00
岁末钟声渐近，金陵城中，两处商业地标正悄然点亮品质生活的新图景。12月29日，永辉超市南京江宁宝龙广场店将盛大开业，这是永辉在南京全新开设的首家胖东来模式门店
2025-12-28 21:29:00
中国青年报客户端讯（中青报·中青网记者余冰玥）12月27日，2025首创郎园AIGC视听产业人才新生态大会在北京举办。面对AI创作人才日益年轻化
2025-12-28 21:31:00
大皖新闻讯 12月28日，由中国科学院合肥物质科学研究院等离子体物理研究所（以下简称合肥物质院等离子体所）承担的国际热核聚变实验堆ITER计划校正场线圈采购包圆满完成全部的制造任务
2025-12-28 15:14:00
江南时报讯 12月27日，以“智赋江苏，聚势腾飞”为主题的2025江苏省人工智能产业发展大会在南京举行。大会设置江苏“人工智能+”创新成果展区
2025-12-28 21:23:00
电商物流共享给南和宠物食品带来什么——河北特色产业集群共享智造故事（九）漫步邢台市南和区，宠物元素扮靓了街头巷尾。一家家宠物食品公司车间厂区里
2025-12-28 07:44:00
12月26日，位于杭州云栖小镇的国家机器人检测与评定中心（总部）浙江检测中心（以下简称“浙江检测中心”）正式启用。机器人从样机走向量产
2025-12-27 08:10:00
近日，深圳市米糠云科技有限公司顺利通过ISO27001信息安全管理体系认证与ISO9001质量管理体系认证。这标志着公司在信息安全管理和质量管理方面达到了国际标准
2025-12-27 14:34:00
近年来，电商与直播电商的迅猛发展，不仅催生出庞大的正向物流需求，更让逆向物流成为快递行业名副其实的“蓝海”。消费者退换货需求呈爆炸式增长
2025-12-27 14:36:00
岁末迎新，跨年不只是一种仪式，更是一场表达与传递的情感盛宴。京东今年再度打造“年度宠粉”跨年盛典，不仅有众多官方直降5折起的尖货好物
2025-12-27 14:36:00
2025年最热门的CPU毫无疑问当属AMD锐龙X3D系列，而技嘉作为AMD核心合作伙伴之一，专为AMD X3D系列处理器量身定制了X870E X3D系列主板
2025-12-27 14:37:00
12月26日，58同城2025“中国好雇主”盛典在深圳举办。作为国内极具影响力的雇主品牌盛会，本届盛典以“数智驱动，百业共生”为核心主题
2025-12-27 14:38:00