- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
高通发布新款云ai推理加速卡
近日，高通公司发布了新一代云AI推理加速卡——CloudAI100Ultra。这款产品专为生成式AI和大型语言模型而设计，提供相当于上一代产品四倍的性能。
新款CloudAI100Ultra可部署的模型规模进一步扩大，单张150W的卡上可部署100B参数模型，在两张卡上则可部署高达175B参数。不仅如此，通过高通AI堆栈和云AISDK的多个CloudAI100Ultra支持，用户还可以支持更大的模型。
高通公司表示，新款CloudAI100Ultra的推出，是为了满足当前市场对高性能、高效率的云AI推理加速卡的需求。这款产品背后依托的是高通专为加速器优化的生成式AI工作负载设计的HPEProLiantDL380aGen11服务器。
据官方介绍，新款CloudAI100平台在最新基准测试结果的所有加速卡中均处于领先地位。然而，具体的新CloudAI100Ultra的性能表现，还需等待进一步的测试和评估。
高通表示，与竞争对手相比，新款CloudAI100Ultra在生成式AI(包括LLMs、NLP和计算机视觉工作负载)方面，每TCO美元可提供两到五倍的性能。这一性能、定价、功率、效率、可扩展性和安全性的完美结合，使得CloudAI100Ultra成为希望采用尖端AI并转变其运营的组织的理想选择，同时还能支持可持续发展目标。
总的来说，CloudAI100Ultra的发布将为生成式AI和大型语言模型的应用带来更强大的支持，有望推动该领域的发展。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-11-16 12:45:21
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
