- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
苹果m2ultra芯片测试：内存带宽800gb/s
10月13日消息，据YCombinator论坛消息，名为GeorgiGerganov开发者日前使用苹果M2Ultra芯片，进行了一系列LLaMA模型推理测试，测试显示该芯片在并行运行128个Llama27B流时，效果较佳。
▲图源GeorgiGerganov在GitHub披露的测试表现
据悉，LLaMA模型推理测试强调内存带宽，而非计算能力，而苹果的M2Ultra芯片号称“内存带宽达800GB/s”，因此推理时效果良好。
▲图源GeorgiGerganov在GitHub披露的测试表现
不过虽然M2Ultra芯片的内存带宽具有优势，但用户最多只能获得192GBRAM，用户花费5600美元（IT之家注：国行44999人民币）购买搭载M2Ultra芯片及192GB运行内存的MacStudio，价格足够买一台“拥有1TBRAM、搭载RTX4090的PC”。
▲图源YCombinator
▲图源苹果官网
GeorgiGerganov据此认为，如果用户的工作负载（如推理）不需要超过192GB，那么选择相关机器时可以更重视“内存带宽”表现，但如果用户有其他工作需求，则可以看看相对应价格的PC。
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2023-10-14 06:45:03
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
