• 我的订阅
  • 头条热搜
本周AI不得了!OpenAI的Sora“模拟世界”、Gemini 1.5“10M上下文”、Mistral的开源新贵同日出现
...质量令人着迷。总结:谷歌可能找到了某种新方法,将长上下文的架构理念与他们的 TPU 计算堆栈相结合,并取得了很好的效果。据 Gemini 长语境的负责人之一Pranav Shyam说,这个想法几个月前才刚刚萌芽。如果以小版本(v1.5)而...……更多
支持1024帧、准确率近100%,英伟达「LongVILA」开始发力长视频
现在,长上下文视觉语言模型(VLM)有了新的全栈解决方案 ——LongVILA,它集系统、模型训练与数据集开发于一体。现阶段,将模型的多模态理解与长上下文能力相结合是非常重要的,支持更多模态的基础模型可以接受更灵活...……更多
...致训练成本飙升。“简单来说,就像做阅读理解时忽视了上下文的语义关系,导致生成图像中经常出现偏差需要反复修正,大幅增加了训练成本。”程明明说。如何降低训练成本、提高训练效率?研究团队在扩散训练过程中引入...……更多
GPT-4劲敌,谷歌进入高能+高产模式
...内的大模型而言,只有Minimax采用了MoE架构。二、扩容的上下文窗口意味着什么?虽然Gemini 1.5 Pro是 Gemini 1.5 系列的初代版本,但初代便表现不俗。扩大上下文窗口后的高水平性能是Gemini 1.5 Pro的一大亮点。多模态大模型卷到今日...……更多
英国ai初创公司wayve公布gaia-1最新进展
...个共享的表示形式,进而在模型中实现统一的时序对齐和上下文理解,这种编码方法,让模型能够更好地整合和理解不同类型的输入。▲图源Wayve而GAIA-1的核心,是一个自回归Transformer,能够预测序列中下一组图像token,世界模型...……更多
全面叫板OpenAI!谷歌发布多模态大模型全家桶:从AI助手到文生视频模型
...将具备多步骤推理能力。来源:谷歌谷歌的Gemini以超长的上下文窗口而出名。在大会上,谷歌重点强调了大模型Gemini 1.5 Pro的多模态和长文本能力,为其推出一系列更新。谷歌将向全球150多个国家地区的Gemini Advanced订阅者提供最...……更多
Kimi引爆人工智能新风口,龙头连续20CM涨停!哪些公司可
...宣布,公司旗下的kimi智能助手,已支持200万字超长无损上下文,并已开启产品内测。继昨日爆发后,kimi概念股今天(3月21日)继续上涨。其中,龙头股华策影视(300133.SZ)再次涨停,连续收获两个20CM涨停,捷成股份(300182.SZ)...……更多
...流趋势。“Sora能够生成60秒时长的视频说明它的技术对于上下文的信息理解是非常优秀的,比如在视频场景的变换下能够识别同一主体,又如能够理解带有情感倾向的文字并通过画面表现出来。”他认为,“拟人化”和“理解世...……更多
...方不断加码。Gemini1.5 Pro基于大语言模型处理视频模态,上下文长度超过百万, Sora在技术上采用了Diffusion Transformer的路线,OpenAI表示Sora在训练过程中表现出了与其他模型不同的涌现能力,有望成为真正的“世界模型”。从投资...……更多
4090单卡可跑,6秒直出电影级画质,智谱版Sora正式开源!
...时间因果卷积确保了信息的因果性,减少了通信开销。而上下文并行技术的采用,则可以适应大规模视频处理。 实验中,团队发现大分辨率编码易于泛化,而增加帧数则挑战较大。因此,可将分两阶段训练模型:- 首先在较低...……更多
rtxai助手的进化
...Assist项目可接收玩家的语音或文字输入内容,游戏窗口的上下文信息,并通过AI视觉模型处理数据。这些模型增强了与游戏知识数据库相连的大语言模型(LLM)的上下文感知和对特定游戏及应用的理解,然后生成定制的回复,以文...……更多
林达华谈大模型发展之路:未来会有更高效的模型结构出现
大模型的上下文长度快速增长,超长上下文解锁新应用,但推理计算代价高昂,上下文本身对于信息不会进行压缩,不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年,人工智能领域风起...……更多
微软连发3款Phi-3.5模型:128K上下文,首用MoE架构,部分性能超GPT-4o mini
...Phi-3.5,适合在内存和算力受限的环境中运行,均支持128k上下文长度。Phi-3.5-mini-instruct主要面向基础快速推理任务,Phi-3.5-MoE-instruct可胜任复杂推理任务,Phi-3.5-vision-instruct则兼具文本与视觉能力。性能最强大的Phi-3……更多
Sora“超级涌现力”将把AI引向何方
...的最小单元进行有意义的关联组合。比如,在保持连贯的上下文语境中,对若干个单词进行有意义组合,从而连缀成一个会意句子;在保持合理的空间布局下,对众多图像小块进行有意义组合,拼合为一幅精彩图像;在保持一致...……更多
10分钟速成专家,「Kimi智能助手」正式支持200万上下文,对话窗口提升10倍 | 最前线
...正式宣布,旗下的Kimi智能助手,已支持200万字超长无损上下文,并于即日起开启产品内测。Kimi智能助手是月之暗面(Moonshot AI)基于自研千亿参数大模型打造的对话式 AI 助手产品,在2023年10月正式发布。而月之暗面也是国内大...……更多
长上下文能力只是吹牛?最强GPT-4o正确率仅55.8%,开源模型不如瞎蒙
...lan【新智元导读】当今的LLM已经号称能够支持百万级别的上下文长度,这对于模型的能力来说,意义重大。但近日的两项独立研究表明,它们可能只是在吹牛,LLM实际上并不能理解这么长的内容。大数字一向吸引眼球。千亿参数...……更多
GPT-4o版「Her」终于来了!讲笑话、学猫叫,AI女友能有多撩人?
...—需要更长输出内容才能满足用例,OpenAI才做出的调整。上下文和输出之间的区别GPT-4o自推出以来,便提供了最大128K的上下文窗口。而对于GPT-4o Long Output,最大上下文窗口仍然是128K。那么,OpenAI如何在保持整体上下文窗口为128K...……更多
《红楼梦》里有大量东北方言?实测AI大模型“长文阅读”
...,国内通用人工智能“初创明星”月之暗面宣布在大模型上下文窗口技术上取得新突破,旗下的Kimi智能助手可支持200万字超长无损上下文,并开启产品内测,随即引发市场关注和热议,并一度因过于火爆“宕机”。随后,阿里...……更多
商汤升级“日日新5.0”大模型,对标GPT-4Turbo
...专家架构,超10TB tokens训练,覆盖大量合成数据,推理时上下文窗口达200K左右。云、端、边全栈大模型产品矩阵中,用于终端设备的“商汤端侧大模型”可满足各类终端用户对大模型技术的应用需求。“日日新5.0”和GPT-4回答趣...……更多
Kimi开启大模型应用元年 券商推荐万兴科技掌阅科技等龙头
...助手近期实现的现象级突破。此前,月之暗面将Kimi的无损上下文长度输入能力从此前的20万字提升到了200万字,应用场景扩展到更大范围。随着Kimi的爆红,多家相关上市公司被广泛关注,并积极回复外界关切。AIGC软件A股上市公司万...……更多
零一万物大模型Yi-34B夺得全球开源评测“双料冠军”,已在阿里云魔搭开源
...代码能力和数学能力专项的继续训练模型。全球最长200K上下文窗口Yi-34B模型将发布全球最长、可支持200K超上下文窗口(contextwindow)版本,可以处理约40万汉字超文本输入。上下文窗口是大模型综合运算能力的金指标之一,对于理...……更多
黄仁勋对话Transformer七作者:很多计算资源被浪费,世界需要更好的模型
...环神经网络模型,Transformer模型能够更准确地捕捉单词的上下文和含义,因而成为了像GPT-4和ChatGPT这样的大语言模型的基础,同时也被应用于非语言领域,包括OpenAI的AI代码生成训练模型Codex、文生视频模型Sora和谷歌DeepMind的蛋白...……更多
王小川公布最新大模型,号称全球最长上下文,是GPT-4的14倍|钛媒体焦点
...模型公司“百川智能”宣布,推出Baichuan2-192K大模型,其上下文窗口长度高达192K,能够处理约35万个汉字。百川智能称,Baichuan2-192K是目前全球最长的上下文窗口,也是目前支持长上下文窗口最优秀大模型Claude2(支持100K上下文窗...……更多
手机上能跑的「GPT-4V」来啦!多图、视频理解首次上端!面壁小钢炮开源史上最强端侧多模态
...,最新发布的 MiniCPM-V 2.6 首次将多图联合理解、多图ICL(上下文少样本学习 )功能集成在端侧模型,这也是此前业界多模态王者 GPT-4V 引以为傲的能力。1. 流畅的多图多轮理解,爽!就像人们习惯把多个文件拖拽给大模型处理,...……更多
用AI当导演,一个人就能拍电影?
...活跃用户就已成功过亿。它能够通过学习人类语言和理解上下文来实现对话互动,敢于质疑与承认错误。那么,如此强大的AI可以生成一部电影吗?AI创作电影的画面AI在电影方面的应用引发了业内的思考,上海温哥华电影学院电影制...……更多
AI赋能、短剧兴起,影视赛道 “一路生花“
...交互体验。Kimi智能助手的核心特点和功能包括:(1)长上下文处理:Kimi能够处理长达200万字的无损上下文,这意味着它可以理解和记忆大量信息,并在此基础上进行有效的交流和任务处理。(2)能力圈:Kimi的能力圈广泛,包...……更多
自主 AI 来了?一文详解火爆全网的 AutoGPT
...在 .env 文件中配置,例如可以利用 token 限制控制输入 (上下文)和输出(响应)的长度,从而控制成本。我看到了一些与 LangChain 集成的拉取请求,这意味着Auto-GPT可以访问其他开源模型了,但也许项目本身也有集成其他模型的...……更多
四大新功能让生成式AI“如虎添翼”
...本并进行训练,这种训练使聊天机器人能够在对话中结合上下文语境,产生类似人类的文本响应。目前,智能客服聊天机器人集成了这项技术。随着这些机器人在语言翻译、创造性写作、理解上下文并作出有意义反应方面的能力...……更多
Kimi爆火背后:访问量仅次于文心一言和阿里通义,国内外大模型都在卷上下文
...款面向C端的大模型产品。早前,该公司宣布在大模型长上下文窗口技术上取得新的突破,Kimi已支持200万字超长无损上下文,并开启产品内测,该能力在不到半年内提升9倍。市场的火爆,导致Kimi服务器一度瘫痪,无法回复用户...……更多
打脸“AI灭绝伦”!研究反驳:大模型涌现能力不会威胁人类生存
...(ACL)上。他们通过一系列实验验证了 AI 大模型在不同上下文条件下的表现,结果发现:在零样本(zero-shot)的情况下,许多大模型根本无法展现所谓的“涌现能力”,反而表现得相当一般。他们表示,这一发现有助于理解 LLM ...……更多
更多关于科技的资讯:
科学认识皮肤光损伤问题,业内首份白皮书来了!
众所周知,晒黑、晒伤、光老化、光加剧性皮肤病、光致癌,是目前皮肤光损伤的主要表现。从需求端来看,消费者不仅要光防护,还要重视光损修护
2024-09-23 19:40:00
《黑神话:悟空》官方首度公开回应DLC、电影计划!一个确定、一个神秘
快科技9月23日消息,《黑神话:悟空》现已发售一个多月,众多玩家已经完成了游戏,满怀期待游戏科学能够放出《黑神话:悟空》DLC或其他方面的消息
2024-09-23 19:57:00
首发89元 荣耀亲选JOWAY 22.5W移动电源预售:USB-C双向快充
快科技9月23日消息,荣耀亲选JOWAY 22.5W移动电源今日正式开启预售,首发89元。据悉,新款移动电源兼容SCP
2024-09-23 19:57:00
“邪门”的彼岸花!竟专挑台风期开放:很多人见过却不知道
最近,接二连三的台风经过魔都,雨哗哗下个不停,给很多人的出行带来了极大的不便……正在漏水的窗户 而初秋上海,你虽被风+雨淋个透湿
2024-09-23 19:57:00
999元 ROG魔导士ACE HFX磁轴键盘上市:68键布局、双USB-C接口
快科技9月23日消息,ROG魔导士ACE HFX磁轴键盘目前已经上市开售,首发999元。据悉,新款键盘采用紧凑的68键布局
2024-09-23 19:57:00
微软开始筹划庆祝其Xbox品牌的一个重要里程碑
9月22日消息,微软已经开始筹划庆祝其Xbox品牌的一个重要里程碑——Xbox25周年。在接受《LicenseGlobal》杂志采访时
2024-09-23 20:02:00
洁碧(Waterpik)冲牙器,开启口腔护理新辉煌
在当今快节奏的生活中,人们对健康的追求愈发强烈,而口腔健康作为整体健康的关键一环,更是备受瞩目。洁碧,这个冲牙器领域的传奇品牌
2024-09-23 20:18:00
“互联网+智慧城市甄选平台”为本地生活带来新变革
在互联网的浪潮中,有这样一位领航者,他以深厚的行业积淀和敏锐的洞察力,为本地生活领域带来了一场前所未有的变革——赵崇鹏先生
2024-09-23 20:22:00
9月23日下午,稳健医疗用品股份有限公司(以下简称“稳健医疗”)发布公告称,以现金形式收购Global Resources International
2024-09-23 20:23:00
直播电商时代 亿级主播蛋蛋再次引领消费升级 带货总销售额14.42亿元
近日,快手主播杨润心(蛋蛋)宣布粉丝破亿,成为全网唯一一位粉丝破亿的直播带货女主播。9月21日,蛋蛋以一场史无前例的“破亿之战”刷新了大众对行业的期待
2024-09-23 20:24:00
安卓性能小钢炮!联想拯救者Y700搭载乾坤散热架构:VC面积比手机屏幕还大
快科技9月23日消息,全新的联想拯救者Y700已经预热许久,今天官方公布了散热规格。新一代搭载乾坤散热架构,拥有10004mm²超大VC
2024-09-23 20:27:00
热湃气凝胶纤维斩获“省长杯”铜奖,加速发展新质生产力
9月20日,山东省第五届“省长杯”工业设计大赛颁奖仪式在2024世界工业设计大会开幕式活动现场隆重举行。山东稀有科技发展有限公司(稀有高科)创新研发的“热湃®气凝胶蓄热抑菌纤维/纱线”经过历时4个月初赛
2024-09-23 20:29:00
第一届智能制造技术与产业创新发展大会在京举办
本文转自:人民网人民网北京9月23日电 (记者夏晓伦)9月22日,北京机械工业自动化研究所有限公司(以下简称“北自所”)召开第一届智能制造技术与产业创新发展大会
2024-09-23 20:34:00
五菱新能源概念车南宁发布,量产版本有望在海外市场销售
9月23日消息,上汽通用五菱即将于9月24日在广西南宁发布其首款全球概念车。 同时,发布会还将展示上汽通用五菱的东盟战略
2024-09-23 20:51:00
redminote14pro系列手机将于9月26日发布
9月23日消息,今日,红米官方正式宣布了RedmiNote14系列手机将于9月26日19:00发布。其中RedmiNote14Pro系列支持IP66+IP68+IP69
2024-09-23 20:54:00