• 我的订阅
  • 科技

手机就能跑!开源AI机器人MLC LLM发布:无需联网

类别:科技 发布时间:2023-05-02 22:00:00 来源:驱动之家

快科技5月2日消息,近日,一个名为MLC LLM的项目在GitHub上线,该项目为一个能够在手机上运行的,无需联网的开源人工智能聊天机器人。

手机就能跑!开源AI机器人MLC LLM发布:无需联网

据悉,MLC LLM项目的本质是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。

同时,它还有着一个高效的框架,供每个人进一步优化自己用例的模型性能。

手机就能跑!开源AI机器人MLC LLM发布:无需联网

上述这一切,都在本地运行,无需服务器支持,并通过手机或笔记本电脑上的本地GPU加速。

技术上,MLC LLM使用了Vicuna-7B-V1.1,这是一种基于Meta开发的LLaMA模型的轻量级LLM,效果虽然不如GPT3.5或GPT4,但在大小方面比较占优势。

目前,该项目可用于Windows、Linux、macOS和iOS平台,但暂时还没有适用于Android的版本。

值得一提的是,MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。返回搜狐,查看更多

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-05-02 23:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

开源 AI 聊天机器人 MLC LLM 发布
IT之家5月2日消息,目前大多数AI聊天机器人都需要连接到云端进行处理,即使可以本地运行的也配置要求极高。那么是否有轻量化的、无需联网的聊天机器人呢?一个名为 MLCLLM 的全
2023-05-03 00:19:00
最新美国国家人工智能科学院院士介绍
...和专家,他们在机器学习、自然语言处理、计算机视觉、机器人技术、智能系统等方向具有深厚的学术背景和丰富的实践经验。这些成员通过参与科学院的研究项目、撰写学术论文、举办学术会议和
2024-03-24 08:39:00
研究发现人工智能碳排放是手机的16倍 未来如何降低?
...次任务后所消耗的能源和碳排放量。研究结果显示,聊天机器人和论文编辑器等基于文本的模型相对节能,每千次聊天所需能源相当于主流智能手机充电所耗能量的16%。然而,使用图像分类器和
2023-12-05 19:10:00
生成模型真实物理引擎Genesis来了!由全球AI顶尖高校团队开发
...是逆向工程人类心智模型,并构建由生成物理引擎驱动的机器人大脑!”借助 GPU 加速的并行计算技术,以及优化的碰撞检测
2024-12-20 09:22:00
卡梅隆封神往事:一个天才疯子,和他为《阿凡达》做准备的20年
...的是化妆、模型和视觉错位。施瓦辛格要把自己搞成一个机器人。为此,卡梅隆专门找到了《教父》的化妆师史密斯。“你能把马龙·白兰度化妆成一个老人,估计我这个也不难。”史密斯一看剧本
2023-01-17 08:56:00
聊天机器人目前还不理解的一件事:“否定”
...实验室负责人赵鼎(音译,Ding Zhao)说。但是,虽然聊天机器人的表现有所提高,但它们在理解“否定”方面仍然存在问题。他们知道说一只鸟不能飞意味着什么,但当面对更复杂的、
2023-06-08 14:56:00
人工智能科研机器要来了?
...所需的化合物之后,它准确计算了所需的剂量,并对移液机器人进行自主编程来开启反应。整个过程只用了不到4分钟。结果,反应后的透明液体样本中成功发现了目标产物,对样本的分析也表明复
2023-12-25 01:28:00
奇绩创坛2023春季路演日:60个项目,超一半与大模型相关,企服项目占比第二
...60个项目参与,涉及人工智能、企业服务、开发者工具、机器人、生物医疗、先进制造等 22 个细分行业。 从本次路演活动可以窥见,围绕大模型产业链上下游的创新、创业机会窗口已经打
2023-06-06 09:39:00
2023新一代人工智能(深圳)创业大赛收官
...个业务提供支持。昆仲资本创始合伙人姚海波分享了智能机器人时代,如何投资的主题演讲,他表示,现阶段全通用人形机器人没有必要,要理性看待通用的价值是什么?多系列通用是学术界、产业
2023-12-06 09:45:00
更多关于科技的资讯: