- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
清华团队开源大模型推理引擎“赤兔Chitu”：硬件成本削减50%
类别：科技 发布时间：2025-03-14 17:22:00 来源：浅语科技
快科技3月14日消息，据报道，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布，开源大模型推理引擎“赤兔Chitu”。这一突破性技术为国产AI芯片的广泛应用和生态建设带来了新的机遇。
“赤兔Chitu”首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型，解决了FP8精度模型对英伟达Hopper架构（如H100/H200）的硬件依赖。
在A800集群的测试中，赤兔引擎在GPU使用量减少50%的情况下，推理速度提升了3.15倍，显著降低了企业的硬件成本，同时提高了性能输出。
赤兔引擎的智能优化技术能够快速适配不同芯片架构，使国产厂商无需重复开发软件，专注于硬件升级。目前，清程极智已与沐曦、燧原等厂商合作，推出“开箱即用”的推理一体机，广泛应用于金融、医疗等行业。
清程极智CEO汤雄超表示，当前国内在推理引擎这一核心环节仍缺乏生产级开源产品。开源“赤兔”引擎是推动国内AI生态建设的重要一步，将为行业提供更高效、更灵活的技术支持。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：鹿角
文章内容举报
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2025-03-14 20:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于清华,推理,模型,团队,成本,硬件的资讯：
...了来自奇绩创坛的种子轮融资。清昴智能创始团队来自于清华计算机系，在边缘计算和模型自动压缩方向有十余年积累；创始人关超宇曾获清华大学研究生特奖，在研究生期间主导开源了首个自动图
2023-06-25 08:51:00
...愈加清晰。在人才组织层面，清昴智能核心成员主要来自清华大学、华为、阿里等高校和公司。创始人兼CEO关超宇毕业于清华大学计算机系，2021年西尔贝学者奖学金获得者（全球不到百人
2024-06-03 15:23:00
...业至今的第一感受依旧是——算力不够用。近期，有一家清华系创业公司瞄准了这一痛点。这家公司叫「无问芯穹」，项目发起人则是清华大学电子工程系主任汪玉，创始人是他的学生夏立雪。因此
2024-04-03 18:19:00
快科技2月15日消息，清华团队突破大模型算力难题，这让英伟达情何以堪。据国内媒体报道称，清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新
2025-02-15 10:52:00
...导读】一台4090笔记本，秒生1K质量高清图。英伟达联合MIT清华团队提出的Sana架构，得益于核心架构创新，具备了惊人的图像生成速度
2024-10-18 09:49:00
...加快研发各种新型MoE架构，以提升模型性能或实用性。如清华和微软联合提出MH-MoE5，通过多头机制弥补MoE原始缺陷
2024-11-04 16:00:00
...解决，而是需要更系统化的方法。在 NeurIPS 2024 上，来自清华大学和蚂蚁集团的研究者针对人工智能体构建方法的通用性和适应性提出了一个新方案
2024-12-11 09:53:00
...果 —— “联想推理加速引擎”。据了解，这款由联想、清华大学及无问芯穹联合研发的推理引擎，是专为高效AI PC推理而设计的软硬件协同优化平台
2025-05-07 11:10:00
更多关于科技的资讯：
胶东在线3月5日讯（通讯员常蕊徐冰鑫）近日，山东移动蓬莱分公司（以下简称“蓬莱移动”）成功助力烟台洛姆电子有限公司实现数智化升级
2026-03-08 03:03:00
大皖新闻讯 3月7日，大皖新闻记者从中国科学技术大学获悉，近期该校潘建伟、戴汉宁、陈宇翱、彭承志等科研人员在光钟研制方面取得里程碑式进展
2026-03-07 17:23:00
中新经纬3月7日电 (谢婧雯)你下班了，站在公司楼下，掏出手机。以前打车，要打开打车软件、输入目的地、比价、选车型、确认呼叫
2026-03-07 18:52:00
东南网3月7日讯（海峡导报记者 孙春燕／文 陆军航／图）马年央视春晚，人形机器人的“赛博表演”惊艳全球，也带火了线下租赁市场
2026-03-07 14:21:00
大河网讯 一束微光照亮“智造”星系，璀璨的电子信息产业在郑州航空港拔节生长。在这里，产业星光汇聚成河，超千亿级集群汇聚了从芯片研发到整机组装的产业链
2026-03-07 16:14:00
大皖新闻讯 2026年是“十五五”开局之年，也是人工智能深度赋能千行百业的关键一年。正在召开的2026年全国两会上，人工智能毫无意外地成为代表委员们热议的高频词
2026-03-07 16:48:00
星枢智能的“机器人家族” 记者 杨亦淇 摄一台售价20多万元的春晚同款人形机器人，现在花5000元就能租一天；如果是基础款
2026-03-07 08:05:00
摘要：随着信息技术的快速发展，人工智能技术逐渐渗透金融机构的各类业务与管理环节，对传统金融运作模式产生了深刻影响。金融机构在激烈竞争和成本约束的背景下
2026-03-07 05:46:00
近日，省应急管理厅举行“AI+工业企业火情预警（火眼哨兵）”“AI+烟花爆竹监管（烟花卫士）”应用上线发布仪式。浙江拥有30余万家工业企业
2026-03-07 07:34:00