• 我的订阅
  • 头条热搜
阿里云佘俊泉:创新涌现,边缘云场景的探索与机遇|GDCC智算
...在未来产品规划上,首先会继续坚持完善以多态计算产品矩阵为代表的IaaS能力,同时将重点从解决功能的有无问题,转向持续提升客户体验,继续优化产品的性能、易用性、稳定性;其次,会在异构计算和云网融合这两个战略...……更多
超星未来梁爽:软硬件协同优化,赋能AI 2.0新时代
...到现有的边缘侧芯片上,主要原因包括:(1)传统架构矩阵算力缺口明显,大模型中50-80%算力需求在Attention层中的各类矩阵计算,并且KV矩阵有明显稀疏性,需要专项支持;(2)大模型的参数量和带宽需求巨大,单7B级别的浮点...……更多
李开复:中国大模型与美国顶尖差距从7年缩短至6个月
...李开复分析称,从这个榜单可以看出,中国大模型与OpenAI旗舰模型的差距已经从去年的7-10年缩短到了如今的6个月。“6个月的差别我觉得不是很大,我觉得是一个不可思议的超级速度的赶追,这方面我还是非常自豪的。”李开复...……更多
补齐Transformer规划短板又不放弃快速思考,Dualformer双重优势
...些解答或慢点思考。OpenAI ο1 模型的发布掀起了人们对 AI 推理过程的关注,甚至让现在的 AI 行业开始放弃卷越来越大的模型,而是开始针对推理过程进行优化了。今天我们介绍的这项来自 Meta FAIR 田渊栋团队的研究也是如此,其...……更多
微软、英伟达纷纷押注小模型,大模型不香了?
...者和客户。此前,谷歌、Meta、OpenAI和Anthropic都发布了比旗舰LLM更紧凑、更灵活的小模型。这不仅降低了开发和部署的成本,也为商业客户提供了更便宜的解决方案。鉴于投资者越来越担心AI企业的高成本和不确定的回报,更多的...……更多
消息称OpenAI计划两周内发布新AI模型“草莓” 专注于推理
...M),例如专注于推理的“草莓”,以及一款名为Orion的新旗舰大模型,OpenAI正考虑将订阅价格定在每月最高2000美元。 ……更多
谷歌大模型推理范式,主要分为两个阶段
...新研究“自我发现”(Self-Discover),重新定义了大模型推理范式。与已成行业标准的思维链(CoT)相比,新方法不仅让模型在面对复杂任务时表现更佳,还把同等效果下的推理成本压缩至1/40。核心策略其实很简单:千人千面。...……更多
GPT刚刚公开「草莓」项目:推理能力翻倍,定价200美元?
... OpenAI 在大语言模型领域的新尝试,也可能是对人工智能推理能力一次新的革命性提升。根据目前流出的信息来看,相比以往的 GPT 模型,「草莓」在处理复杂问题、执行多步骤任务方面展现出前所未有的潜力,使其成为通用人...……更多
最强安卓SoC!联发科天玑9300正式发布
...建了丰富的AI生态,支持MetaLIama2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。天玑9300率先采用新一代旗舰12核GPUImmortalis-G720,与上一代相比,峰值性能提升46%,相同性能下功耗节省40%。天玑9300搭载MediaTek第...……更多
连续无故障训练15天!摩尔线程发布夸娥智算集群KUAE 1.2
...增大模型KUAE内置模型库Model Zoo新增LLaMA2全系列大模型、百川、雅意、Qwen2、Mixtral(MoE 8x7B)等模型。【本文结束】如需转载请务必注明出处:快科技责任编辑:上方文Q文章内容举报 ……更多
国云注智 聚力向新 第七届数字中国建设峰会·电信生态成果体验馆盛大开馆
...国电信集中展出数据资产管理平台、星海大数据产品能力矩阵、全栈数据要素生态图谱、灵泽2.0数据要素服务平台四大能力以及海南、安庆、温州三大数据要素实践成果。中国电信数据资产管理平台,集数据自动化采集、全生命...……更多
大模型下沉,汽车需要存算一体芯片|超级观点
...以直接在存储器上进行,以新的运算架构进行二维和三维矩阵乘法/加法运算,可以极大幅度消除数据搬移带来的数据传输缓慢、功耗高、搬运能耗大等问题。 此外,由于数据存储在本地,计算直接在存储中进行,它能将用户数...……更多
国产大模型竞技场首超GPT-4o!零一万物GLM共同跻身Top10
...刚刚,“大模型六小强”之一的零一万物正式对外发布新旗舰模型——Yi-Lightning(闪电)。在大模型竞技场(Chatbot Arena)上,Yi-Lightning性能直冲总榜单并列第6,数学分榜并列第3,代码等其它分榜也名列前茅。总成绩几乎与马斯...……更多
联想王传东:AI PC重塑产业生态 新应用崛起
...终端方面,联想拥有包括业内领先的PC、平板、手机等全矩阵产品,同时正在积极投资布局适应中国AI生态环境的AI PC;在AI导向的智能基础设施方面,联想在中国已完成绝大多数GPU技术的产品布局或适配,初步形成全栈AI服务器...……更多
大模型“自杀式降价”,大厂为抢生意开打价格战
...公司没有这样的生态,必须找到新的商业模式。5月22日,百川智能发布最新一代基座大模型Baichuan 4,创始人王小川在媒体交流会上表示,核心要看背后的商业模式是什么,如果是做to B服务的,降价的根本目标不是为了卖大模型...……更多
...考消息网6月12日报道 据法新社6月4日报道,以人工智能的旗舰产品GPT-4为代表的大语言模型在逻辑测试中的推理表现很糟糕:它们犯下前后不一致的错误,而且推理过程往往是荒谬的。近日发表在《皇家学会开放科学》杂志上的...……更多
对话贾扬清:明年AI推理成本还会降低10倍以上,一两年内AI使用成本或低于人工
...比之前更加乐观。他认为,“成本不是核心问题,Token的推理成本可能在接下去的一年还会再降低十倍,甚至更多。公司更应该关注的是用户体验。让AI使用成本降低到人工成本以下,可能就是一两年的时间。”他表示,“核心...……更多
AI落地之夜,聊聊要未来的爆发还是要当下的效果|阿里云创业者社群
...航信、招商银行、同道猎聘等,大模型明星公司智谱AI、百川智能等,投资机构代表元璟资本等,研究机构IDEA,以及行业内众多上下游的创业公司,比如松应科技、Nolibox计算美学、面壁智能等。在创业者之夜的现场,“落地”...……更多
AI芯片下半场:英伟达不再一家独大
...客户提供云服务,这些服务就是运行在英伟达和AMD的最新旗舰芯片上。微软正在AMD的最新旗舰芯片上测试OpenAI最先进的模型GPT-4。纷纷入局在芯片供不应求和AI应用需求激增的背景下,微软对定制芯片计划的迅速推进,被外界普...……更多
昆仑万维宣布开源2千亿稀疏大模型Skywork-MoE
...万维宣布开源2千亿稀疏大模型Skywork-MoE,性能强劲,同时推理成本更低。Skywork-MoE基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来,是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型,也是首个支持用单台409...……更多
NeurIPS 2024|水印与高效推理如何两全其美?最新理论:这做不到
... sampling)结合,在为大语言模型加入水印的同时,提升其推理效率,降低推理成本,因此适合用于大规模生产环境。这项研究发表在了 Nature 杂志上,给出了两种具体的结合方法,分别在水印检测效果和生成速度上达到了现有最...……更多
大模型落地之战,百度靠什么突围
...,百度智能云宣布进一步降价,把 ERNIE 4.0、ERNIE 3.5 两款旗舰模型的价格大幅压低,输入输出分别低至0.03元/千Tokens、0.06元/千Tokens。把价格门槛直接摘掉,自然有不少用户竞相涌入。尤其是不少大中、中小型公司机构,没了对成...……更多
大模型新趋势之MoE:现状、挑战及研究方向
...,MoE在训练过程通过门控模型实现“因材施教”,进而在推理过程实现专家模型之间的“博采众长”。 图1MoE架构原理示意图1MoE的特征优势是专家化、动态化、稀疏化,在模型研发成本、训练/推理效率和整体性能之间实现最佳...……更多
让AI无处不在 高通全面开启终端侧生成式AI大门
...供贴近生成式AI的技术支持。首先智能手机平台,骁龙8系旗舰移动平台迎来了第三代大版本更新。第三代骁龙8致力于推动终端侧AI规模化扩展,这也是高通首个专为生成式AI打造的移动平台。高通技术公司高级副总裁兼手机、计...……更多
让OpenAI o1逆天的慢思考,360两月前就做出来了?周鸿祎CoE媲美CoT,应用太前瞻
...在的国产大模型在数据、算法、算力等方面仍然与OpenAI的旗舰模型存在差距,如果拿出来单挑,可以媲美GPT-4o,但很难超越o1。这个时候,就需要用到传统的中国智慧了——「三个臭皮匠,顶个诸葛亮」。灭霸虽强,但复仇者联...……更多
NeurIPS 2024 Oral | 小参数,大作为!揭秘非对称 LoRA 架构性能
...任务使用相同的参数结构不同,HydraLoRA 引入了共享的 A 矩阵和多个独立的 B 矩阵,分别处理不同的任务,从而避免任务间的干扰。九头蛇(Hydra)的每个头就像 LoRA 中的 B 矩阵一样,专注于各自的特定任务,而共享的 A 矩阵则像...……更多
OpenAI o1模型到博士水平了?复旦教授:没有真正推理能力,学到的还是概率相关性
...小尺寸版o1-mini。OpenAI官方发文称,新模型旨在解决复杂推理问题,训练模型在响应之前花更多时间思考,类似于人类的思考方式。“新模型在推理能力上代表了AI能力的新水平。”OpenAI称,该模型可以解决科学、编程和数学等更...……更多
大模型落地竞赛打响:腾讯加速AI产业化,5分钟可开发一款AI应用
...中资源可更高效利用。另据时代财经获悉,包括MiniMax、百川等在内,90%的头部大模型企业都已在腾讯云上打造大模型。蒋杰还在会上透露,面向C端的助手App“腾讯元宝”将于5月底上线,首批上线功能包括AI搜索、翻译、文档总...……更多
Meta版慢思考来了!田渊栋团队整合快慢思考,能走迷宫推箱子
...本更低。能解决迷宫、推箱子等复杂问题。通过让模型在推理轨迹和最终答案上进行训练,再基于特定策略丢掉部分轨迹,Dualformer模型可以在模仿慢思考的同时,像快思考一样走捷径。由此能形成更简洁的思维链(CoT)。从结...……更多
一代更比一代强,AI 时代的至强如何为云服务保驾护航?
...理器搭载的英特尔® AMX 加速引擎。其可以将 INT8 低精度矩阵运算速度提升一个数量级,再结合第五代至强® 可扩展处理器更高的内存带宽与更强的多核心互联能力,使 AI 推理性能相较上一代显著提升。在 11.11 大促中,第五代至...……更多
更多关于科技的资讯:
理想MEGA高速跑123km/h车主被扣12分罚200:或因错误识别
快科技12月25日消息,通常而言,在限速120km/h的高速路上,开小型客车如果超速在10%以内通常不会面临罚款或扣分
2024-12-25 18:06:00
《黄仁勋:英伟达之芯》作者:他内心仍把自己当中国人
快科技12月25日消息,近日腾讯科技采访了《黄仁勋:英伟达之芯》一书的作者斯蒂芬·威特,其中探讨了英伟达创始人黄仁勋的个人品质及其与企业文化的关系
2024-12-25 18:06:00
你去玩吗!日本面向中国公民新设10年旅游签:可停留天数延长至30天
12月25日消息,据报道,日本外相岩屋毅于12月25日在访问北京期间,表示针对中国公民签证的放宽措施。具体包括设立有效期10年的旅游签证
2024-12-25 18:06:00
变废为宝!全球最大甲酸钙装置投产
快科技12月25日消息,据报道,全球单套规模最大的甲酸钙生产装置日前在山东顺利开车投产。该装置为钢厂尾气高值化利用制甲酸钙装置
2024-12-25 18:06:00
《白雪公主》真人电影新剧照:邪恶皇后照魔镜
近日迪士尼《白雪公主》真人电影新剧照曝光,邪恶皇后出现在魔镜前。还有张剧照中,白雪公主和男主角乔纳森牵手。该片由瑞秋·泽格勒(《饥饿游戏
2024-12-25 18:06:00
男子为省停车费网购假车牌 结果行拘20天、罚款6000元
快科技12月25日消息,安徽警方今日披露了一起使用网购假号牌省停车费的案例。据介绍,近日,芜湖无为交警在开展日常路面整治工作中
2024-12-25 18:06:00
一箭11星!力箭一号冲击中国航天2024最后一发 淘宝88VIP冠名
12月25日,中科宇航官方宣布,力箭一号遥六运载火箭即将执行一箭11星发射任务,命名为“淘宝88VIP探索号”,并公布了任务徽章
2024-12-25 18:06:00
飞机上哪个座位最安全:后排中间
快科技12月25日消息,今日,阿塞拜疆航空公司的一架Embraer 190型飞机在哈萨克斯坦阿克套机场降落时与地面相撞
2024-12-25 18:36:00
九州风神推出FL12R系列机箱反叶风扇:配备36颗第二代ARGB灯珠
快科技12月25日消息,据报道,九州风神宣布推出FL12R系列机箱反叶风扇,提供了黑色和白色版本。售价139元起。FL12R机箱反叶风扇搭载了36颗第二代ARGB灯珠
2024-12-25 18:36:00
脑洞大开!小伙研发冬季防静电装置:我给自己接了跟地线
快科技12月25日消息,近日,一小伙自主研发了一个防静电装置的视频在网络走红。视频中,起因是小伙天天被静电电的哇哇叫,于是他脑洞大开
2024-12-25 18:36:00
柔宇资产二拍降价2.5亿又流拍!每月维护费用都要500万
快科技12月25日消息,柔宇显示公司资产12.3亿元起拍流拍后,又进行了降价二拍,起拍价仅9.8亿,目前已经结束,再次流拍
2024-12-25 18:36:00
全国统一心理援助热线:12356即将开通
内心烦恼,无人倾诉?现在好了,你可以直接拨打“12356”,咨询心理健康的相关知识,自有人替你排忧解难。据国家卫生健康委
2024-12-25 18:36:00
贵州首次!南航在黔开启空客A320飞机拆解工作
“吊起来,慢一点……好,放下……”2024年12月24日,南航贵州飞机维修厂(以下简称“维修厂”)机库内,一架空客A320飞机的拆解工作正在逐项有序开展
2024-12-25 22:44:00
突破行业局限,东郊到家如何打通健康与科技的无缝连接?
随着科技的不断进步和人们对健康关注度的提高,传统按摩行业正面临着新的挑战与机遇。如何将健康服务与现代科技结合,突破行业固有局限
2024-12-25 22:46:00
网友意外钓到“水老虎”:能吃的不像话 同类都不放过
最近在江西省,有位幸运的钓友成功钓起了一条大鱼,目测大概有七公斤半。从视频中看,这条鱼有着巨大且较尖的头部,上半身呈灰色
2024-12-25 18:36:00