• 我的订阅
  • 科技

手机就能跑!开源AI机器人MLC LLM发布:无需联网

类别:科技 发布时间:2023-05-02 22:00:00 来源:驱动之家

快科技5月2日消息,近日,一个名为MLC LLM的项目在GitHub上线,该项目为一个能够在手机上运行的,无需联网的开源人工智能聊天机器人。

手机就能跑!开源AI机器人MLC LLM发布:无需联网

据悉,MLC LLM项目的本质是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。

同时,它还有着一个高效的框架,供每个人进一步优化自己用例的模型性能。

手机就能跑!开源AI机器人MLC LLM发布:无需联网

上述这一切,都在本地运行,无需服务器支持,并通过手机或笔记本电脑上的本地GPU加速。

技术上,MLC LLM使用了Vicuna-7B-V1.1,这是一种基于Meta开发的LLaMA模型的轻量级LLM,效果虽然不如GPT3.5或GPT4,但在大小方面比较占优势。

目前,该项目可用于Windows、Linux、macOS和iOS平台,但暂时还没有适用于Android的版本。

值得一提的是,MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。返回搜狐,查看更多

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-05-02 23:45:02

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

开源 AI 聊天机器人 MLC LLM 发布
IT之家5月2日消息,目前大多数AI聊天机器人都需要连接到云端进行处理,即使可以本地运行的也配置要求极高。那么是否有轻量化的、无需联网的聊天机器人呢?一个名为 MLCLLM 的全
2023-05-03 00:19:00
最新美国国家人工智能科学院院士介绍
...和专家,他们在机器学习、自然语言处理、计算机视觉、机器人技术、智能系统等方向具有深厚的学术背景和丰富的实践经验。这些成员通过参与科学院的研究项目、撰写学术论文、举办学术会议和
2024-03-24 08:39:00
研究发现人工智能碳排放是手机的16倍 未来如何降低?
...次任务后所消耗的能源和碳排放量。研究结果显示,聊天机器人和论文编辑器等基于文本的模型相对节能,每千次聊天所需能源相当于主流智能手机充电所耗能量的16%。然而,使用图像分类器和
2023-12-05 19:10:00
卡梅隆封神往事:一个天才疯子,和他为《阿凡达》做准备的20年
...的是化妆、模型和视觉错位。施瓦辛格要把自己搞成一个机器人。为此,卡梅隆专门找到了《教父》的化妆师史密斯。“你能把马龙·白兰度化妆成一个老人,估计我这个也不难。”史密斯一看剧本
2023-01-17 08:56:00
生成模型真实物理引擎Genesis来了!由全球AI顶尖高校团队开发
...是逆向工程人类心智模型,并构建由生成物理引擎驱动的机器人大脑!”借助 GPU 加速的并行计算技术,以及优化的碰撞检测
2024-12-20 09:22:00
聊天机器人目前还不理解的一件事:“否定”
...实验室负责人赵鼎(音译,Ding Zhao)说。但是,虽然聊天机器人的表现有所提高,但它们在理解“否定”方面仍然存在问题。他们知道说一只鸟不能飞意味着什么,但当面对更复杂的、
2023-06-08 14:56:00
人工智能科研机器要来了?
...所需的化合物之后,它准确计算了所需的剂量,并对移液机器人进行自主编程来开启反应。整个过程只用了不到4分钟。结果,反应后的透明液体样本中成功发现了目标产物,对样本的分析也表明复
2023-12-25 01:28:00
联汇科技赵天成:具身智能的真正“涌现”是跨任务跨场景,中国更有机会萌生最好的本体
...采访时作出上述表述。随着具身智能浪潮的兴起,为了让机器人能真正理解物理世界,视觉语言模型(VLM)、视觉语言动作模型(VLA)等具身智能大模型应运而生。当前,如何让具身智能像
2025-05-31 08:20:00
奇绩创坛2023春季路演日:60个项目,超一半与大模型相关,企服项目占比第二
...60个项目参与,涉及人工智能、企业服务、开发者工具、机器人、生物医疗、先进制造等 22 个细分行业。 从本次路演活动可以窥见,围绕大模型产业链上下游的创新、创业机会窗口已经打
2023-06-06 09:39:00
更多关于科技的资讯:
双轮驱动,智启未来:刘晓春与AI智能体×机器人“姊妹组合战略”的全球布局
2026,智能时代的分水岭2026年的春天,马年春晚的舞台上,一场科技盛宴惊艳了全球观众——30多台国产机器人协同起舞
2026-02-22 12:05:00
新春走基层丨厦企加快数字化转型步伐 提前返岗忙生产赶订单
明翰电气的工人春节期间坚守岗位。(记者 林铭鸿 摄)厦门网讯(厦门日报记者 林露虹)放置材料、调试机台……正月初五,厦门明翰电气股份有限公司(以下简称“明翰电气”)已忙碌起来
2026-02-22 08:50:00
新春走基层 | 森一量子为赶订单全员在线 生产线满负荷运转
昨日记者走进森一量子,这一企业春节期间全员加班加点。厦门网讯(厦门日报记者 李晓平)长晶、 切割、减薄、抛光、镀膜……当大多数人还沉浸在春节的喜庆中
2026-02-22 08:50:00
我带着一款AI眼镜回家过年
记者带回家的AI眼镜二伯买的宇树机器狗Go2今年的春晚有一个格外醒目的变化——“AI含量”明显提升。年夜饭桌上,亲戚们都在聊各自手机里的各种“AI”App
2026-02-22 07:49:00
中国科大实现碳化硅改性双空位色心的电荷态调控
大皖新闻讯 2月21日,大皖新闻记者从中国科学技术大学获悉,该校郭光灿院士团队在碳化硅改性双空位色心电荷态调控的研究中取得了新进展
2026-02-21 16:48:00
戛纳世界人工智能大会探讨“音乐人工智能”
中国青年报客户端讯(中青报·中青网记者 蒋肖斌)2026戛纳世界人工智能大会(WAICF 2026),近日在法国戛纳举办
2026-02-21 12:10:00
杭州一家高科技创业公司员工 每人领一个陪伴机器人回家过年
春节去各地见见世面长长“脑子”这个春节,大多数打工人都卸下KPI返乡团聚。杭州一家名为镭萌科技的创业公司,却有一群特殊的“员工”在忙着长“脑子”
2026-02-21 08:11:00
建设一流创新生态 激发创新投资需求杭州日报讯 日前,浙江(杭州)知识产权创新产业园内,一场旨在连接技术与资本的专利产业化投融资专项对接活动火热举行
2026-02-21 08:11:00
新春佳节,浙江不少企业春节“不打烊”,抢订单、赶交付、跑海外,把年过在了车间里和海外展台前。走进宁波这家科技企业,工作人员正紧盯屏幕
2026-02-20 15:04:00
马年春节,杭城消费市场持续升温。一批全国首店、浙江首店、杭州首店密集登陆湖滨、武林、钱江新城、奥体等核心商圈,覆盖潮玩
2026-02-20 07:31:00
大年初三,杭州苏宁易购庆春路店暖意融融。大厅里“焕新幸福年”的红色标语格外醒目。店内客流平稳,多为全家同行的家庭顾客,虽不似年前拥挤
2026-02-20 08:01:00
“库迪咖啡竟然涨价了,9.9元的咖啡以后还能闭眼冲吗?”春节前最后一个工作日,东北姑娘小乔中午赶到杭州火车东站,准备坐高铁回老家
2026-02-20 08:01:00
潮声丨从“Made in”到“Design by”,浙江品牌出海记
新春,义乌老板们已经忙碌起来。这几天,24家义乌企业亮相2026年美国拉斯维加斯服装服饰及面料展,带着新品抢订单、拓市场
2026-02-19 16:24:00
新春走基层|“解码”潮玩盲盒:Z世代用情绪消费点亮团圆年
中青报·中青网记者沈杰群余冰玥李怡蒙见习记者蒋欣雨95后北京职员王之怡在新加坡休假时,特意去了环球影城附近的泡泡玛特,店内挤满了年轻人
2026-02-19 12:05:00