• 我的订阅
  • 头条热搜
权威AI开源标准1.0版发布:Llama也不算开源
...、验证和测试、支持库(如分词器和超参数搜索代码)、推理代码和模型架构。 参数:模型参数,例如权重或其他配置。参数应根据 OSI 批准条款提供。 例如,训练中间阶段的检查点以及优化器状态。对于机器学习系统,模型...……更多
ChatGPT爆火后,如何跳脱算力困局?
...特尔®高级矩阵扩展(英特尔®AMX),能将人工智能实时推理和训练性能提升至10倍;面向网络数据系统的英特尔®动态负载均衡器(英特尔®DLB),可将网络工作负载的系统级处理性能时延降低96%;增强数据移动效率的英特尔®数...……更多
手机上能跑的「GPT-4V」来啦!多图、视频理解首次上端!面壁小钢炮开源史上最强端侧多模态
...类模型低 75%。端侧友好:量化后端侧内存仅占 6 GB;端侧推理速度高达 18 tokens/s,相比上代模型快 33%。并且发布即支持 llama.cpp、ollama、vllm 推理;且支持多种语言。统一高清框架,高效能力一拖三:小钢炮的传统优势 OCR 能力延...……更多
Meta版慢思考来了!田渊栋团队整合快慢思考,能走迷宫推箱子
...本更低。能解决迷宫、推箱子等复杂问题。通过让模型在推理轨迹和最终答案上进行训练,再基于特定策略丢掉部分轨迹,Dualformer模型可以在模仿慢思考的同时,像快思考一样走捷径。由此能形成更简洁的思维链(CoT)。从结...……更多
清华团队提出新型光计算架构,光训练速度提升1个数量级
...智能计算的“潜力股”,为后摩尔时代带来新的希望。 推理和训练是 AI 大模型核心能力的两个重要阶段,正是看到了这一点,该团队在推理和训练方面进行了同期的并行研究。今年 4 月,他们在 Science 报道了通用智能光计算芯...……更多
AI大模型有望再扩1000倍!剑桥耶鲁康奈尔:PNN是变革关键
...围内吗?能在智能手机或传感器这些边缘设备上进行本地推理吗?要回答这些问题,我们需要重新思考AI模型的工作和训练方式,尤其是要转换视角,首先考虑底层硬件的物理约束。或许,物理神经网络PNN(physical neural network)...……更多
o1核心作者分享:激励AI自我学习,比试图教会AI每一项任务更重要
...绍下Hyung Won Chung,从公布的o1背后人员名单来看,他属于推理研究的基础贡献者。资料显示,他是MIT博士(方向为可再生能源和能源系统),去年2月加入OpenAI担任研究科学家。加入OpenAI之前,他在Google Brain负责大语言模型的预训...……更多
开源版OpenAI再出「神作」,小模型吊打Llama 3!Ministral系列问世,边缘AI革命开启
...持高达128k上下文(目前在vLLM上为32k)。在知识、常识、推理、函数调用、效率等方面,为低于10B参数模型设立了新标杆。而且,Ministral 8B还有配备了滑动窗口注意机制(sliding-window attention),以实现更快和内存高效的推理。不...……更多
华人团队爆火instructblip抢跑看图聊天
...成员:InstructBLIP据介绍,InstructBLIP模型更擅长「看」、「推理」和「说」,即能够对复杂图像进行理解、推理、描述,还支持多轮对话等。比如,下图这一场景可能发生了什么?InstructBLIP推理出,可能飓风,或者恶劣的天气因素...……更多
搞医学影像,为什么都青睐于CPU?
...ACS/RIS产品中,就采用了基于CPU的方案运行三维可视化、AI推理等工作负载。在三维可视化加持下,融合影像分析等技术,让医务人员通过旋转、缩放、分割、图像增强等操作,从多角度清晰了解到医学影像中各结构之间的空间位...……更多
马斯克承诺开源版大模型 来了!Grok-1:3140亿参数迄今最大,权重架构全开放
...能力,但只使用了一半的训练资源。之后,他们对模型的推理和编码能力进行了重大改进,最终开发出了 Grok-1,这是一款功能更为强大的 SOTA 语言模型,在 HumanEval 编码任务中达到了 63.2% 的成绩,在 MMLU 中达到了 73%。xAI 使用了...……更多
“华米OV”的新战场:手机大模型
...的算力,一定都会在云端进行。而手机端的应用,其实是推理。在推理的时候,模型可以只激活一部分的模块、一部分的神经元来计算,”小米技术委员会 AI 实验室大模型团队负责人栾剑表示。 另外,云端和端侧的大模型具体...……更多
没有这些,别妄谈做 ChatGPT 了
...。飞天智算平台的机器学习平台 PAI,专门针对 AI 大模型推理和训练场景进行针对性优化,可将计算资源利用率提高 3 倍以上, AI训练效率提升 11 倍,推理效率提升 6 倍,覆盖了全链路的 AI 开发工具与大数据服务。可以说,这...……更多
跨越算力鸿沟丨星凡科技2024AI算力集群产品发布会圆满成功
...单纯的计算资源提供者,他们需要向客户提供大模型训练推理等增值服务,以减少客户在模型开发过程中的成本负担,助力客户进行人工智能转型,从而实现双赢。”超新星分布式微算力中心——AICC建设运营高性价比选择本次...……更多
苹果300亿参数大模型首亮相,还买了家AI公司|焦点分析
...模有30亿、70亿、300亿三种大小,有图像识别和自然语言推理能力。其中,参与该论文的作者有30人,一半以上都是华人。 MM1测试效果不如Gemini和GPT4V和市面上其他大模型相比,MM1亮点并不在惊艳的效果上,也没有提出特别的技...……更多
李彦宏称开源赶不上闭源?Meta发布最强开源模型,马斯克评价“还不错”
...碾压谷歌此次发布的Llama3大模型,相较于上一代在编码、推理等性能上取得了显著进步。Meta公布的九项行业基准测试评测结果显示,Llama3-8B参数版本几乎全面碾压谷歌的Gemma和Mistral的70亿模型。Llama3-70B参数版本则在7项评测中超...……更多
让大模型能听会说,国内机构开源首个端到端语音对话模型Mini-Omni
...交互能力的核心是模型能够直接在语音模态上进行理解和推理,这与传统的语音对话功能有本质的不同。现有的语音对话系统中主要包含 3 个过程:首先将输入语音内容转换为文本,其次利用大语言模型进行文本推理,最后利用...……更多
开源狂潮让巨头惨败,谷歌内部文件曝光
...以应用指令调整改进模型,这样在其他贡献者添加对话、推理或工具时,就可以直接使用。虽然单独的微调是低秩的,但它们的总和不需要,因此模型的全秩更新就可以随着时间的推移而累积。这意味着,只要有新的、更好的数...……更多
...大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这...……更多
...能设备或家庭服务器上,使用存储在本地的个人数据进行推理和学习的人工智能基础模型。它不仅可以像公共大模型那样通过对话提供答案、创作内容,而且更精准、贴切,甚至根据用户的思维模式预测任务,并自主寻找解决方...……更多
英特尔第五代至强可扩展处理器发布:AI推理性能提升42%!
...器,相比上代至强平均性能提升了21%,能效提升了36%,AI推理性能提升了42%,总拥有成本降低了77%!最高64核心,整体性能提升21%、AI推理性能提升42%、总拥有成本降低77%! 据介绍,第五代至强(Xeon)延续了上代的Intel 7制造工...……更多
微软发布旗下最小语言模型phi-2
...写电子邮件和故事,以及总结文本。在常识、语言理解和推理的基准测试中,该模型在某些领域能够跟上多达100亿个参数的模型。微软现在更新发布的Phi-2拥有27亿参数,规模虽然比此前版本翻番,但相比较其它主流语言模型,...……更多
全模态对齐框架align-anything来啦:实现跨模态指令跟随
...-Vision-11B 既准确地识别出了餐厅,还提供了细致的思考与推理过程。 在 Meta 并未披露 Llama-3.2-11B-Vision-Instruct 对齐技术细节情况下,北大对齐小组愿开源数据、训练、模型、评估的全流程,为全模态对齐研究贡献力量。对齐框架...……更多
国产大模型第一梯队玩家,为什么pick了CPU?
...占绝对大头的因素——算力。 现在提及大模型的训练和推理,很多人的第一反应或许就是想到了GPU。诚然GPU在高性能上占据着一定的优势,但它所存在“硬伤”也是比较明显,那便是供应不足、价格昂贵。何以破局?国产大模...……更多
微软:从“软件老大”到“AI帝国”
...Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行云端训练和推理。这款芯片采用了 5 纳米工艺制造,拥有 1050 亿个晶体管。 Azure Maia 100 美颜照|Microsoft微软自己的DPU——Azure Boost也已全面上市。微软在今年早些时候……更多
...在Github、Hugging Face等平台开放。开源代码涵盖模型训练和推理代码,开源数据包括超100万条对话训练数据,开源模型包括160亿参数中英双语基座语言模型、对话模型及插件增强的对话模型。复旦大学计算机科学技术学院教授、MOS...……更多
刚刚,OpenAI震撼发布o1大模型!强化学习突破LLM推理极限
...专门解决难题。这是一个重大突破,新模型可以实现复杂推理,一个通用模型解决比此前的科学、代码和数学模型能做到的更难的问题。OpenAI 称,今天在 ChatGPT 和大模型 API 中新发布的是该系列中的第一款模型,而且还只是预览...……更多
每月141元的ChatGPT Plus订阅重新开放,背后发生了什么?
...」图/ X(Twitter) 但算力依然受限,核心是大模型训练、推理都严重依赖于英伟达高端 GPU,而英伟达又受限于台积电先进芯片制造工艺、封装工艺以及韩国 HBM 内存的产能。说到底,还是算力不够用,「供给」赶不上「需求」。...……更多
4090笔记本0.37秒直出大片!英伟达联手MIT清华祭出Sana架构,性能秒杀FLUX
...仅解码器LLM)作为文本编码器,以增强对提示词的理解和推理能力。尽管T2I生成模型多年来取得了显著进展,但大多数现有模型仍依赖CLIP或T5进行文本编码,这些模型往往缺乏强大的文本理解和指令跟随能力。与CLIP或T5不同,Gem...……更多
零一万物新模型盲测国产首超GPT-4o!李开复透露:一次训练成本超2000万
...消息称,国内大模型头部企业中有几家放弃预训练、转向推理端,对此李开复表示,不会放弃预训练,但这是个技术活,需要懂芯片、推理、模型、算法。李开复称,目前国内头部六家大模型企业融资额度都是够的,一次预训练...……更多
更多关于科技的资讯:
成都财博立新教育咨询公司抖音小店:赋能财经教育,助力梦想起航
随着互联网的快速发展,短视频平台抖音在我国越来越受到年轻人的喜爱。在这个拥有巨大流量的平台上,一家名为成都财博立新教育咨询有限公司的机构悄然崛起
2024-11-23 16:21:00
REDMI Watch 5超大屏惊艳亮相 网友直呼小米手环9买早了
快科技11月23日消息,REDMI品牌总经理王腾今天分享了REDMI Watch 5的最新预热海报,宣布这款新品将与K80系列一同亮相
2024-11-23 16:28:00
男子打赏女主播630万 自己啃馒头充饥 只为听一声哥哥
快科技11月23日消息,近日,浙江宁波发生一起令人吃惊的事件。据报道,一名男子因沉迷于网络直播,多次在直播间豪掷千金,累计打赏女主播高达400多万元
2024-11-23 16:58:00
22项核心数据 香山智能体脂秤新低:只要19元
【京东自营】香山智能体脂秤(升级 LED 全包底壳)官方售价 69.9 元,今年日常大促价 59.9 元。现下单立减 10 元 + 可领 10 元首单礼金
2024-11-23 16:58:00
AI投毒第一案!GPT写的代码竟有后门 程序员被骗1.8万元
快科技11月23日消息,随着AI大模型技术的不断进步,众多职业的工作效率得到了显著提升。例如,在编程领域,这些先进的AI工具不仅能够协助程序员编写代码
2024-11-23 17:28:00
11月22日,全省首家“晋行晋驿”便利连锁标准店在高速公路阳曲服务区焕新亮相。该店以全新风貌、丰富业态和温馨如家的服务
2024-11-23 18:11:00
11月22日,东杰智能和万邑通全球采购框架协议签署仪式在东杰智能总部举行,合同总金额近7亿元。双方此次“牵手”,将助推行业物流效率的优化与智能化仓储的发展
2024-11-23 18:11:00
本文转自:人民网无接触扫描完成患者注册、生成体内组织三维影像、光纤植入3毫米小孔消融病灶,当机器人拥有了“眼”“脑”“手”
2024-11-23 18:47:00
安阳市第三人民医院与郑州轻工业大学开展脊柱侧弯穿戴设备设计开发项目交流
映象网讯(大象新闻记者 贾利超)2024年11月22日上午,安阳市第三人民医院与郑州轻工业大学就脊柱侧弯穿戴设备设计开发项目交流会在医院行政楼三楼会议室成功举行
2024-11-23 19:42:00
AI诊断抑郁症,准确率高达97.53%的秘诀何在?
抑郁症是一种常见的精神疾病,全球有2.8亿人正在遭受它的困扰。为了帮助更多人及时准确地诊断抑郁症,考纳斯理工大学(KTU)的研究人员开发了一种新的人工智能(AI)模型
2024-11-23 14:12:00
小米15开箱:作为一款小旗舰、拍照旗舰,它的卖点是手感好
在最近两个月新上市的一堆旗舰手机里,有哪款是让你感觉值得关注一下的呢?小米15应该会成为不少人的目标,毕竟这个尺寸的手机太少了
2024-11-23 14:15:00
网友高速路上偶遇雷军,疑似正在测试小米SUV
鞭牛士 11月22日消息,近日,有网友在高速路上偶遇雷军正开着一辆SUV,被网友纪录了下来,雷军还举起手和该网友和车内的随行人员打了招呼
2024-11-23 14:15:00
网友偶遇雷军测试小米SUV:雷总车内笑得合不拢嘴
近日,有网友在高速路上巧遇雷军驾驶一辆SUV,并与其车内人员打招呼。雷军显得十分高兴,对小米SUV的性能感到满意。从外观来看
2024-11-23 14:16:00
vivo S20系列即将发布 美学与科技的完美碰撞
近日,vivo正式官宣,备受瞩目的S20系列智能手机即将于11月28日盛大发布。作为vivo S系列的又一力作,vivo S20系列不仅继承了S系列一贯的优雅设计与卓越拍照性能
2024-11-23 14:16:00
从2799元跌至1589元,3840Hz+骁龙7Gen3+100W,荣耀也太“亲民”了
以前荣耀作为华为旗下的“先锋队”,以“年轻、科技、品质”为招牌,为国人奉献了一场又一场科技盛宴。后来,这支队伍独立开拔
2024-11-23 14:17:00