- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...类模型低 75%。端侧友好：量化后端侧内存仅占 6 GB；端侧推理速度高达 18 tokens/s，相比上代模型快 33%。并且发布即支持 llama.cpp、ollama、vllm 推理；且支持多种语言。统一高清框架，高效能力一拖三：小钢炮的传统优势 OCR 能力延...……更多
2024-08-07 09:42:00多图,小钢炮,模态,上端,手机,视频
...智能计算的“潜力股”，为后摩尔时代带来新的希望。
推理和训练是 AI 大模型核心能力的两个重要阶段，正是看到了这一点，该团队在推理和训练方面进行了同期的并行研究。今年 4 月，他们在 Science 报道了通用智能光计算芯...……更多
2024-08-09 09:57:00量级,清华,架构,个数,团队,速度
...围内吗？能在智能手机或传感器这些边缘设备上进行本地推理吗？要回答这些问题，我们需要重新思考AI模型的工作和训练方式，尤其是要转换视角，首先考虑底层硬件的物理约束。或许，物理神经网络PNN（physical neural network）...……更多
2024-07-15 09:33:00康奈尔,康奈,耶鲁,剑桥,变革,模型
...能力，但只使用了一半的训练资源。之后，他们对模型的推理和编码能力进行了重大改进，最终开发出了 Grok-1，这是一款功能更为强大的 SOTA 语言模型，在 HumanEval 编码任务中达到了 63.2% 的成绩，在 MMLU 中达到了 73%。xAI 使用了...……更多
2024-03-18 11:51:00马斯,马斯克,权重,架构,模型,参数
...ACS/RIS产品中，就采用了基于CPU的方案运行三维可视化、AI推理等工作负载。在三维可视化加持下，融合影像分析等技术，让医务人员通过旋转、缩放、分割、图像增强等操作，从多角度清晰了解到医学影像中各结构之间的空间位...……更多
2024-06-02 15:41:00医学影像,影像,医学,英特,英特尔,三维
...的算力，一定都会在云端进行。而手机端的应用，其实是推理。在推理的时候，模型可以只激活一部分的模块、一部分的神经元来计算，”小米技术委员会 AI 实验室大模型团队负责人栾剑表示。
另外，云端和端侧的大模型具体...……更多
2023-10-26 18:02:00战场,模型,手机,模型,手机,厂商
...模有30亿、70亿、300亿三种大小，有图像识别和自然语言推理能力。其中，参与该论文的作者有30人，一半以上都是华人。
MM1测试效果不如Gemini和GPT4V和市面上其他大模型相比，MM1亮点并不在惊艳的效果上，也没有提出特别的技...……更多
2024-03-16 18:14:00模型,苹果,参数,焦点,分析,公司
...碾压谷歌此次发布的Llama3大模型，相较于上一代在编码、推理等性能上取得了显著进步。Meta公布的九项行业基准测试评测结果显示，Llama3-8B参数版本几乎全面碾压谷歌的Gemma和Mistral的70亿模型。Llama3-70B参数版本则在7项评测中超...……更多
2024-04-20 11:00:00马斯,马斯克,李彦,模型,评价,模型
...写电子邮件和故事，以及总结文本。在常识、语言理解和推理的基准测试中，该模型在某些领域能够跟上多达100亿个参数的模型。微软现在更新发布的Phi-2拥有27亿参数，规模虽然比此前版本翻番，但相比较其它主流语言模型，...……更多
2023-11-17 14:00:00微软,旗下,模型,语言,模型,微软
...器，相比上代至强平均性能提升了21%，能效提升了36%，AI推理性能提升了42%，总拥有成本降低了77%！最高64核心，整体性能提升21%、AI推理性能提升42%、总拥有成本降低77%！
据介绍，第五代至强（Xeon）延续了上代的Intel 7制造工...……更多
2023-12-16 13:49:00英特,英特尔,推理,处理器,性能,处理
...单纯的计算资源提供者，他们需要向客户提供大模型训练推理等增值服务，以减少客户在模型开发过程中的成本负担，助力客户进行人工智能转型，从而实现双赢。”超新星分布式微算力中心——AICC建设运营高性价比选择本次...……更多
2024-04-03 17:00:00鸿沟,集群,发布会,成功,产品,科技
...交互能力的核心是模型能够直接在语音模态上进行理解和推理，这与传统的语音对话功能有本质的不同。现有的语音对话系统中主要包含 3 个过程：首先将输入语音内容转换为文本，其次利用大语言模型进行文本推理，最后利用...……更多
2024-09-07 09:44:00模型,语音,对话,机构,语音,文本
...Bing、GitHub Copilot 和 ChatGPT 等 AI 工作负载运行云端训练和推理。这款芯片采用了 5 纳米工艺制造，拥有 1050 亿个晶体管。
Azure Maia 100 美颜照｜Microsoft微软自己的DPU——Azure Boost也已全面上市。微软在今年早些时候……更多
2023-11-21 10:45:00帝国,微软,老大,软件,微软,模型
...能设备或家庭服务器上，使用存储在本地的个人数据进行推理和学习的人工智能基础模型。它不仅可以像公共大模型那样通过对话提供答案、创作内容，而且更精准、贴切，甚至根据用户的思维模式预测任务，并自主寻找解决方...……更多
2023-11-22 19:04:00杨元庆,模型,运行,支持,个人,模型
...」图/ X（Twitter）
但算力依然受限，核心是大模型训练、推理都严重依赖于英伟达高端 GPU，而英伟达又受限于台积电先进芯片制造工艺、封装工艺以及韩国 HBM 内存的产能。说到底，还是算力不够用，「供给」赶不上「需求」。...……更多
2023-12-15 11:26:00订阅,背后,开放,英伟,芯片,模型
...大模型的超低价格引发行业震动。据悉，豆包主力模型的推理输入价格只有0.0008元/千Tokens，比行业便宜99.3%。对此，谭待坦言，“降价是用技术优化成本来实现的。如果只是补贴，用亏损换收入是不可持续的，火山引擎不会走这...……更多
2024-05-16 11:29:00火山,模型,定价,信心,引擎,技术
...模型想要追平闭源模型的能力，需要有更大的参数，那么推理成本会更高，反应速度会更慢。一个激烈竞争的市场环境中，比拼的是业务效率和更低的成本，对此，“商业化的闭源模型是最能打的”。此前4月中旬，李彦宏的一...……更多
2024-07-04 17:33:00一文,李彦,模型,基础,应用,模型
...占绝对大头的因素——算力。 现在提及大模型的训练和推理，很多人的第一反应或许就是想到了GPU。诚然GPU在高性能上占据着一定的优势，但它所存在“硬伤”也是比较明显，那便是供应不足、价格昂贵。何以破局？国产大模...……更多
2024-07-10 20:45:00梯队,模型,国产,玩家,模型,英特
...专门解决难题。这是一个重大突破，新模型可以实现复杂推理，一个通用模型解决比此前的科学、代码和数学模型能做到的更难的问题。OpenAI 称，今天在 ChatGPT 和大模型 API 中新发布的是该系列中的第一款模型，而且还只是预览...……更多
2024-09-13 16:42:00推理,模型,极限,突破,学习,模型
...等工具如何为部署模型提供支持，助力大模型更加高效地推理。赵一嘉首先分享了 Stable Diffusion 背后模型的原理详解，细致地阐述了 Clip、VAE 和 Unet 等关键组件的工作原理。随着 Sora 爆火，也带火了背后的 DiT（扩散 Transformer）...……更多
2024-08-13 09:39:00文生,出图,美感,秘籍,心意,更快
...结合了两个B200 GPU和一个独立的Grace CPU，将能够使大模型推理工作负载的性能提升30倍，同时提高效率。相比于H100，它可以“将成本和能源消耗降至1/25”。这就意味着，以前训练一个拥有1.8万亿参数的模型需要8000个Hopper GPU 和15...……更多
2024-03-19 08:53:00英伟,推理,芯片,性能,成功,产品
...商无疑到了瓶颈期，就像阿里原副总裁贾扬清说的，降低推理成本、降低售价似乎成了一个“拍脑袋就可以做的简单策略”。目前看来，这场针对推理输入价格和API的价格战更多影响的是开发者，并不会直接影响到C端消费者。...……更多
2024-06-24 09:26:00大厂,夹缝,价格战,模型,中小,价格
...白质语言模型ESM3。不仅支持序列、结构、功能的all-to-all推理，团队还在实验中发现，它设计的新蛋白质相当于模拟自然界5亿年的进化。继AlphaFold 3更新后，我们又看到了一个生命科学领域的大模型ESM3。模型开发团队来自于名为...……更多
2024-06-27 09:31:00进化史,力作,老将,蛋白质,进化,蛋白
...与GPT-4相匹配的能力。“大模型离不开大装置，从训练到推理，如果没有以算力为核心的基础设施作为支撑，大模型根本就跑不起来，就是无本之源。”盛世伟透露，商汤将于 4月技术交流日上，推出“日日新”5.0大模型，见证...……更多
2024-04-01 09:24:00商汤,人工智能,样板,人工,装置,智能
...加速器将为寻求大规模部署生成式AI的企业带来AI训练和推理方面的重大飞跃。英特尔Gaudi 3预计可大幅缩短70亿和130亿参数Llama2模型，以及1750亿参数GPT-3模型的训练时间。英特尔表示，Gaudi 3能够比英伟达上一代H100处理器训练特定...……更多
2024-04-10 10:52:00英特,英特尔,英伟,能比,推理,芯片
...炼平台、灵积（DashScope）平台等，为用户提供模型训练、推理等所需的算力服务。这些平台不仅支持阿里云的通义系列，还集成了Llama、ChatGLM等系列开源大模型。用户通过API接口，能够在阿里云的公共云上直接调用这些模型，在...……更多
2024-06-28 18:08:00挥出,三板,三板斧,阿里,阿里,模型
...其不断交互才能变得聪明，待在实验室里并不会造福世界推理是下一个重要的进步节点，能提升数据训练效率，产生更有价值的结果对话实录部分要点整理Transformer因何横空出世？Illia Polosukhin：如果要做出能真正读取搜索结果的...……更多
2024-03-22 00:03:00架构,模型,对话,模型,数据,资源
...于训练的高速成长阶段，基于我们对市场的理解，训练和推理的出货量大概在1：5 到1：6。随着未来人工智能在行业的深入应用，推理服务器会得到大量的部署。”AI应用工程平台也是神州数码接下来发力的重点方向。当前，企...……更多
2024-03-30 20:30:00应用工程,神州数码,神州,生成,战略,升级
...代表Omni，也就是“全能”的意思。据介绍，GPT-4o文本、推理、编码能力达到GPT-4 Turbo水平，速度是上一代AI大模型GPT-4 Turbo的两倍，但成本仅为GPT-4 Turbo的一半，视频、音频功能得到改善。OpenAI CEO奥尔特曼（Sam Altman）在博客中表...……更多
2024-05-14 14:39:00实测,人机,更快,模型,成本,速度
...库建设。”建设智算中心增加算力供给大模型进行训练和推理时，对算力的需求量巨大。算力是大模型的底座。算力通常分为通用算力、智能算力和超算算力，大模型需要的是智能算力。如何破解智能算力紧缺问题，成为大模型...……更多
2023-12-22 03:26:00百业,模型,观察,模型,语料,数据
更多关于科技的资讯：
齐鲁晚报·齐鲁壹点 陶春燕 山东省宇捷轴承制造有限公司是国家级专精特新重点“小巨人”企业、国内最大的调心滚子轴承生产企业
2025-09-27 20:05:00
当小区突发故障停电，地下车库里业主们的电动汽车，瞬间变身为一个巨大“充电宝”，为消防、通风和应急照明系统供电，守护社区安全
2025-09-27 12:35:00
随时“云端”办公，自由“安放”工位，数字游民社区兴起数字游民在南京：我推着房间找邻居南京首个乡村数字游民社区坐落于浦口草圣书乡景区
2025-09-26 08:14:00
三迭纪项目入选国家药监局智慧监管典型案例年产3亿片！3D打印药片，片片皆可溯源南报网讯（通讯员唐斐记者张希）近日，国家药品监督管理局信息中心正式公布“2025年药品智慧监管典型案例”
2025-09-26 08:14:00
二〇二五年中国香料香精化妆品精品博览会启幕十七个香妆产业创新转化项目签约南报网讯（记者夏思宇）9月25日上午，2025年中国香料香精化妆品精品博览会在南京扬子江国际会议中心开幕
2025-09-26 08:15:00
厦门网讯（厦门日报通讯员 李汶鸿）24日，在上海市普陀区普熙金融广场PUSH艺术中心举办的“数字人民币国际运营中心业务平台推介会”上
2025-09-26 08:38:00
在智能语音机器人赛道，技术稳定性与迭代能力是核心竞争力，神州泰岳旗下鼎富智能avavox大模型语音机器人依托两大技术优势
2025-09-26 08:52:00
近日，烟台联通在客户日活动中面向VIP客户创新开展急救知识培训公益增值服务，邀请中国红十字会专业急救讲师现场授课，通过“理论+实操”相结合的方式
2025-09-26 09:24:00
近日，由中交一公局集团建筑公司武清城改项目申报的《BIM+智能设备在大型城中村改造项目施工阶段的应用》凭借在特大型群体住宅工程的应用实践
2025-09-26 10:49:00
中新经纬9月26日电 9月25日，小米集团创始人、董事长兼CEO雷军在年度演讲上回顾了小米汽车造车历程。雷军提到，今年6月
2025-09-26 10:54:00
近日，头部房产经纪企业我爱我家正式启动主题为“好邻·好礼·好生活”的2025我爱我家社区好邻节。据介绍，本次活动从9月22日至10月31日
2025-09-26 11:24:00
9月25日，小米公司创始人雷军在年度演讲中宣布推出一项独特的服务——小米定制服务。雷军表示，小米YU7是为一群高审美，无法容忍平庸的人设计的
2025-09-26 11:37:00
9月25日，在年度演讲暨秋季新品发布会上， 小米推出了首款三区洗衣机——米家三区洗衣机Pro 滚筒10kg，售价3999元
2025-09-26 11:38:00
华为鸿蒙折叠电脑MateBook Fold非凡大师的上市成为改写高端笔记本市场格局的关键事件。根据GFK 2025年6月统计
2025-09-26 11:38:00
鲁网9月26日讯（记者 李晓晨）从算力之巅的超级计算中心到家庭智能的创新终端，从芯片封装的关键环节到水处理技术的自主研发
2025-09-26 12:03:00