- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
清华团队开源大模型推理引擎“赤兔Chitu”：硬件成本削减50%
类别：科技 发布时间：2025-03-14 17:22:00 来源：浅语科技
快科技3月14日消息，据报道，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布，开源大模型推理引擎“赤兔Chitu”。这一突破性技术为国产AI芯片的广泛应用和生态建设带来了新的机遇。
“赤兔Chitu”首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型，解决了FP8精度模型对英伟达Hopper架构（如H100/H200）的硬件依赖。
在A800集群的测试中，赤兔引擎在GPU使用量减少50%的情况下，推理速度提升了3.15倍，显著降低了企业的硬件成本，同时提高了性能输出。
赤兔引擎的智能优化技术能够快速适配不同芯片架构，使国产厂商无需重复开发软件，专注于硬件升级。目前，清程极智已与沐曦、燧原等厂商合作，推出“开箱即用”的推理一体机，广泛应用于金融、医疗等行业。
清程极智CEO汤雄超表示，当前国内在推理引擎这一核心环节仍缺乏生产级开源产品。开源“赤兔”引擎是推动国内AI生态建设的重要一步，将为行业提供更高效、更灵活的技术支持。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：鹿角
文章内容举报
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2025-03-14 20:45:07
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
更多关于清华,推理,模型,团队,成本,硬件的资讯：
...了来自奇绩创坛的种子轮融资。清昴智能创始团队来自于清华计算机系，在边缘计算和模型自动压缩方向有十余年积累；创始人关超宇曾获清华大学研究生特奖，在研究生期间主导开源了首个自动图
2023-06-25 08:51:00
...愈加清晰。在人才组织层面，清昴智能核心成员主要来自清华大学、华为、阿里等高校和公司。创始人兼CEO关超宇毕业于清华大学计算机系，2021年西尔贝学者奖学金获得者（全球不到百人
2024-06-03 15:23:00
...业至今的第一感受依旧是——算力不够用。近期，有一家清华系创业公司瞄准了这一痛点。这家公司叫「无问芯穹」，项目发起人则是清华大学电子工程系主任汪玉，创始人是他的学生夏立雪。因此
2024-04-03 18:19:00
快科技2月15日消息，清华团队突破大模型算力难题，这让英伟达情何以堪。据国内媒体报道称，清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新
2025-02-15 10:52:00
...导读】一台4090笔记本，秒生1K质量高清图。英伟达联合MIT清华团队提出的Sana架构，得益于核心架构创新，具备了惊人的图像生成速度
2024-10-18 09:49:00
...加快研发各种新型MoE架构，以提升模型性能或实用性。如清华和微软联合提出MH-MoE5，通过多头机制弥补MoE原始缺陷
2024-11-04 16:00:00
...解决，而是需要更系统化的方法。在 NeurIPS 2024 上，来自清华大学和蚂蚁集团的研究者针对人工智能体构建方法的通用性和适应性提出了一个新方案
2024-12-11 09:53:00
...果 —— “联想推理加速引擎”。据了解，这款由联想、清华大学及无问芯穹联合研发的推理引擎，是专为高效AI PC推理而设计的软硬件协同优化平台
2025-05-07 11:10:00
更多关于科技的资讯：
2026年1月16日，由深圳市终端电子制造产业协会、广东省电子学会SMT专委会主办，华友(重庆)企业管理咨询有限公司、EIM西南电子智能制造服务中心承办的“2026 EIM 西南
2026-01-20 11:02:00
全程可追溯，鸡蛋有了“数字身份证”——AI赋能千行百业一线故事（二十）1月16日，在邯郸百瑞可蛋品供应链管理有限公司数字蛋品交易服务中心
2026-01-20 08:20:00
深夜，济宁“润佳便利店”却依旧亮着灯光，为百姓提供服务，成为一道温暖的风景线。一名刚下夜班的年轻人扫码推门，从货架间挑选饮品与零食
2026-01-20 09:48:00
1月14日，在任丘市的河北冀超龙传动机械公司，工作人员在“链齿云”数字化赋能平台查看公司订单。河北日报记者 戴绍志摄河北日报讯（记者戴绍志）任丘市积极探索数字化转型新路径
2026-01-20 08:18:00
1月12日，张家口数字文创产业基地，北动漫（河北）网络科技有限公司员工在讨论人工智能项目细节。 河北日报记者 耿辉摄1月8日
2026-01-20 08:22:00
厦门网讯（厦门日报记者 李晓平）昨日，《2025胡润中国人工智能企业50强》榜单发布，聚焦全球AI（人工智能）产业创新浪潮中的中国标杆企业
2026-01-20 08:07:00
“最早来杭州是1998年，那时我还是个博士生。”白马湖畔，北京航空航天大学杭州创新研究院院长王俊的回忆闸门打开，叙述充满画面感
2026-01-20 07:09:00
中国网1月20日讯 据国家安全部消息，近期，境外一家购物中心的户外大型数字广告牌突然异常，引发业界对公共场所数字显示屏等公共数字设备潜在风险的重视
2026-01-20 07:31:00
董佳琳摘要：随着数字技术的广泛应用，数字经济已成为推动金融行业转型升级的核心引擎，尤其在金融科技创新方面，数字经济为其提供了持续的内生动力
2026-01-20 06:52:00
2026年米兰冬奥会的脚步越来越近，绍兴乾雍纺织有限公司总经理萧兴水期待着米兰来的消息。“这次咱们中国队赛时制服面料全部用数码打印而成
2026-01-19 23:33:00
河北新闻网讯（任蕊）“以前插接一根四分钢丝绳，费时费力。现在用上自制装置，效率翻番！”1月11日，在开滦股份吕家坨矿负950五采回风石门掘进现场
2026-01-19 20:15:00
大皖新闻讯 1月19日，胡润研究院发布《2025胡润中国人工智能企业50强》排行榜，中国科大校友陈天石创立的寒武纪蝉联榜首
2026-01-19 22:42:00
河北新闻网讯（田坤）近日，在开滦集团钱家营矿业公司（简称“开滦钱矿公司”）机采科检修车间，一台自主研发的“液压钻车负载敏感阀试验台装置”成功完成首次测试
2026-01-19 20:03:00
河北新闻网讯（闫丽颖、罗俊明）近日，开滦股份范各庄矿顺利完成井下排水泵房的智能化改造，传统人工巡检模式被远程集中监控替代
2026-01-19 20:04:00
2026年1月19日，安克创新与飞书联合发布了最新AI硬件——安克AI录音豆，飞书提供了该产品的软件AI适配与服务。这款产品以极轻的"磁吸纽扣”形态实现无感随身佩戴
2026-01-19 17:13:00