• 我的订阅
  • 科技

开发人员测试mlx框架训练ai能力

类别:科技 发布时间:2023-12-15 04:37:00 来源:浅语科技

12月14日消息,开发人员OliverWehrens近日测试了苹果M1Pro、M2Ultra和M3Max三款AppleSilicon芯片升级MLX框架后训练AI能力,并对比了英伟达的RTX4090显卡。

开发人员测试mlx框架训练ai能力

Wehrens使用OpenAI的语音识别模型Whisper进行测试,主要测量转录10分钟音频文件所需时间。

测试结果显示M1Pro处理音频时间需要216秒,英伟达RTX4090显卡处理时间需要186秒。

而具有76个GPU的M2Ultra和具有40个GPU的M3Max处理性能更为优秀,分别为95秒和100秒。

此外苹果AppleSilicon芯片功耗也更为优秀。英伟达RTX4090在运行状态下,比闲置状态下高出242W。

而配备M1Pro芯片在运行状态下,仅比闲置状态下高出38W。

IT之家此前报道,MLX框架特点如下:

熟悉的API:Python和C++API具有熟悉的框架,如NumPy和PyTorch,使经验丰富的研究人员易于学习。

轻松高效:MLX使用可组合的功能转换来优化AppleSilicon的性能。

延迟计算:能够防止不必要的计算并提高资源效率。

动态设计:能够适应输入形状变化,简化了调试和测试过程。

软硬结合:MLX无缝利用苹果设备的CPU和GPU,确保用户能够充分利用硬件。

统一内存优势:MLX利用苹果统一内存,能够进一步加强数据移动速度

研究人员友好:MLX专为研究人员设计。

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-12-15 09:45:40

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

全模态对齐框架align-anything来啦:实现跨模态指令跟随
...京大学一支团队迅速跟进,用自研的全球首个全模态对齐框架「Align Anything」对 Llama 3.2 进行了微调
2024-10-18 09:47:00
星环科技Sophon 3.2发布,通过“六易三仓两中心”实现新一代AI平民化
...数据模态对接、跟进高度定制场景问题解决、运营多源多框架AI模型等方面的问题,星环自主研发的一站式智能分析工具平台Sophon推出了3.2版本。3.2版本的Sophon通过以数
2023-05-31 16:00:00
打造高品质游戏 - 云上分布式AI实践
...们深入解析了强化学习的概念。强化学习是一种智能决策框架,它解决的问题是:假设有一个智能体面对未知环境,它需要做出一系列动作或决策,以最大化从环境获得的奖励。这种概念贯穿于我们
2024-04-22 11:37:00
多模态模型免微调接入互联网,即插即用新框架,效果超闭源方案
...大学、浙江大学、香港大学联合提出即插即用的SearchLVLMs框架,可以无缝整合任意的多模态大模型。该框架在推理阶段对大模型进行互联网检索增强,使得大模型无需微调即可对实时
2024-11-11 13:34:00
刚刚,谷歌宣布35岁Keras之父Francois Chollet离职
...顺利。Google 对 Keras 3 的持续投入表明了我们支持主要 ML 框架并为 ML 开发人员提供框架可选性的承诺
2024-11-15 09:53:00
​首个自主机器学习AI工程师,刚问世就秒了o1,Kaggle大师拿到饱
...新方法以及精细优化。这回落在 NEO 后面的,是搭配 AIDE 框架的 o1-preview 了。 NEO 在 50 场 Kaggle 比赛中进行了测试
2024-11-19 09:48:00
多模态模型评测框架lmms-eval发布!全面覆盖,低成本,零污染
...oTA」的时代,简单易用、标准透明、可复现的多模态评估框架变得越来越重要,而这并非易事。为解决以上问题,来自南洋理工大学 LMMs-Lab 的研究人员联合开源了 LMMs-Eval
2024-08-22 09:50:00
模型即服务,卓世科技MaaS平台 2.0 正式上线
...应用程序调用,实现模型服务的快速集成。 3、应用开发框架:提供一套框架和工具,帮助用户快速构建和测试基于模型的应用。 4、持续集成/持续部署(CI/CD):自动化应用的构
2024-08-07 09:45:00
文心大模型4.0 Turbo来了!百度推出文心快码2.5,已覆盖内部80%程序员
...心大模型4.0 Turbo API开放同时,飞桨平台发布新一代飞桨框架3.0 Beta版本,具备大模型训推一体、动静统一自动并行
2024-07-01 09:21:00
更多关于科技的资讯: