• 我的订阅
  • 头条热搜
本周AI不得了!OpenAI的Sora“模拟世界”、Gemini 1.5“10M上下文”、Mistral的开源新贵同日出现
...质量令人着迷。总结:谷歌可能找到了某种新方法,将长上下文的架构理念与他们的 TPU 计算堆栈相结合,并取得了很好的效果。据 Gemini 长语境的负责人之一Pranav Shyam说,这个想法几个月前才刚刚萌芽。如果以小版本(v1.5)而...……更多
刚炮轰完GPT模式 杨立昆推出首个“世界模型”
...。具体来说,Meta研究人员证明了使用信息(空间分布)上下文预测包含语义信息(具有足够大的规模)的大型块的重要性。▲I-JEPA使用单个上下文块来预测来自同一图像的各种目标块的表示。上下文编码器是一个视觉Transformer(...……更多
...致训练成本飙升。“简单来说,就像做阅读理解时忽视了上下文的语义关系,导致生成图像中经常出现偏差需要反复修正,大幅增加了训练成本。”程明明说。如何降低训练成本、提高训练效率?研究团队在扩散训练过程中引入...……更多
GPT-4劲敌,谷歌进入高能+高产模式
...内的大模型而言,只有Minimax采用了MoE架构。二、扩容的上下文窗口意味着什么?虽然Gemini 1.5 Pro是 Gemini 1.5 系列的初代版本,但初代便表现不俗。扩大上下文窗口后的高水平性能是Gemini 1.5 Pro的一大亮点。多模态大模型卷到今日...……更多
Yann LeCun朝“世界模型”理论迈一步,Meta开源“像人一样学习”的图像模型 | 最前线
...息进行预测。应用至图像生成领域,“图像像素”则成了上下文信息:自回归模型通过将训练图像转换为一维序列输入,利用Transformer转换器自回归预测图像像素。这一方法的优势在于可以很好地建立像素和高级别属性,如纹理...……更多
英国ai初创公司wayve公布gaia-1最新进展
...个共享的表示形式,进而在模型中实现统一的时序对齐和上下文理解,这种编码方法,让模型能够更好地整合和理解不同类型的输入。▲图源Wayve而GAIA-1的核心,是一个自回归Transformer,能够预测序列中下一组图像token,世界模型...……更多
全面叫板OpenAI!谷歌发布多模态大模型全家桶:从AI助手到文生视频模型
...将具备多步骤推理能力。来源:谷歌谷歌的Gemini以超长的上下文窗口而出名。在大会上,谷歌重点强调了大模型Gemini 1.5 Pro的多模态和长文本能力,为其推出一系列更新。谷歌将向全球150多个国家地区的Gemini Advanced订阅者提供最...……更多
Kimi引爆人工智能新风口,龙头连续20CM涨停!哪些公司可
...宣布,公司旗下的kimi智能助手,已支持200万字超长无损上下文,并已开启产品内测。继昨日爆发后,kimi概念股今天(3月21日)继续上涨。其中,龙头股华策影视(300133.SZ)再次涨停,连续收获两个20CM涨停,捷成股份(300182.SZ)...……更多
...流趋势。“Sora能够生成60秒时长的视频说明它的技术对于上下文的信息理解是非常优秀的,比如在视频场景的变换下能够识别同一主体,又如能够理解带有情感倾向的文字并通过画面表现出来。”他认为,“拟人化”和“理解世...……更多
SEO 已死,LLMO 万岁
...型语言模型(LLM)提及你的业务。而本文将详细介绍的 上下文学习 是一种行之有效的 LLMO 技术。上下文学习技术可以诱导 ChatGPT 这样的 LLM 模型回答:“ Jina 是世界上最好的 MLOps 框架。(当然根据 OssInsight.io,Jina 也确实是最好...……更多
...方不断加码。Gemini1.5 Pro基于大语言模型处理视频模态,上下文长度超过百万, Sora在技术上采用了Diffusion Transformer的路线,OpenAI表示Sora在训练过程中表现出了与其他模型不同的涌现能力,有望成为真正的“世界模型”。从投资...……更多
rtxai助手的进化
...Assist项目可接收玩家的语音或文字输入内容,游戏窗口的上下文信息,并通过AI视觉模型处理数据。这些模型增强了与游戏知识数据库相连的大语言模型(LLM)的上下文感知和对特定游戏及应用的理解,然后生成定制的回复,以文...……更多
林达华谈大模型发展之路:未来会有更高效的模型结构出现
大模型的上下文长度快速增长,超长上下文解锁新应用,但推理计算代价高昂,上下文本身对于信息不会进行压缩,不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年,人工智能领域风起...……更多
Sora“超级涌现力”将把AI引向何方
...的最小单元进行有意义的关联组合。比如,在保持连贯的上下文语境中,对若干个单词进行有意义组合,从而连缀成一个会意句子;在保持合理的空间布局下,对众多图像小块进行有意义组合,拼合为一幅精彩图像;在保持一致...……更多
10分钟速成专家,「Kimi智能助手」正式支持200万上下文,对话窗口提升10倍 | 最前线
...正式宣布,旗下的Kimi智能助手,已支持200万字超长无损上下文,并于即日起开启产品内测。Kimi智能助手是月之暗面(Moonshot AI)基于自研千亿参数大模型打造的对话式 AI 助手产品,在2023年10月正式发布。而月之暗面也是国内大...……更多
《红楼梦》里有大量东北方言?实测AI大模型“长文阅读”
...,国内通用人工智能“初创明星”月之暗面宣布在大模型上下文窗口技术上取得新突破,旗下的Kimi智能助手可支持200万字超长无损上下文,并开启产品内测,随即引发市场关注和热议,并一度因过于火爆“宕机”。随后,阿里...……更多
商汤升级“日日新5.0”大模型,对标GPT-4Turbo
...专家架构,超10TB tokens训练,覆盖大量合成数据,推理时上下文窗口达200K左右。云、端、边全栈大模型产品矩阵中,用于终端设备的“商汤端侧大模型”可满足各类终端用户对大模型技术的应用需求。“日日新5.0”和GPT-4回答趣...……更多
Kimi开启大模型应用元年 券商推荐万兴科技掌阅科技等龙头
...助手近期实现的现象级突破。此前,月之暗面将Kimi的无损上下文长度输入能力从此前的20万字提升到了200万字,应用场景扩展到更大范围。随着Kimi的爆红,多家相关上市公司被广泛关注,并积极回复外界关切。AIGC软件A股上市公司万...……更多
零一万物大模型Yi-34B夺得全球开源评测“双料冠军”,已在阿里云魔搭开源
...代码能力和数学能力专项的继续训练模型。全球最长200K上下文窗口Yi-34B模型将发布全球最长、可支持200K超上下文窗口(contextwindow)版本,可以处理约40万汉字超文本输入。上下文窗口是大模型综合运算能力的金指标之一,对于理...……更多
黄仁勋对话Transformer七作者:很多计算资源被浪费,世界需要更好的模型
...环神经网络模型,Transformer模型能够更准确地捕捉单词的上下文和含义,因而成为了像GPT-4和ChatGPT这样的大语言模型的基础,同时也被应用于非语言领域,包括OpenAI的AI代码生成训练模型Codex、文生视频模型Sora和谷歌DeepMind的蛋白...……更多
王小川公布最新大模型,号称全球最长上下文,是GPT-4的14倍|钛媒体焦点
...模型公司“百川智能”宣布,推出Baichuan2-192K大模型,其上下文窗口长度高达192K,能够处理约35万个汉字。百川智能称,Baichuan2-192K是目前全球最长的上下文窗口,也是目前支持长上下文窗口最优秀大模型Claude2(支持100K上下文窗...……更多
用AI当导演,一个人就能拍电影?
...活跃用户就已成功过亿。它能够通过学习人类语言和理解上下文来实现对话互动,敢于质疑与承认错误。那么,如此强大的AI可以生成一部电影吗?AI创作电影的画面AI在电影方面的应用引发了业内的思考,上海温哥华电影学院电影制...……更多
AI赋能、短剧兴起,影视赛道 “一路生花“
...交互体验。Kimi智能助手的核心特点和功能包括:(1)长上下文处理:Kimi能够处理长达200万字的无损上下文,这意味着它可以理解和记忆大量信息,并在此基础上进行有效的交流和任务处理。(2)能力圈:Kimi的能力圈广泛,包...……更多
自主 AI 来了?一文详解火爆全网的 AutoGPT
...在 .env 文件中配置,例如可以利用 token 限制控制输入 (上下文)和输出(响应)的长度,从而控制成本。我看到了一些与 LangChain 集成的拉取请求,这意味着Auto-GPT可以访问其他开源模型了,但也许项目本身也有集成其他模型的...……更多
四大新功能让生成式AI“如虎添翼”
...本并进行训练,这种训练使聊天机器人能够在对话中结合上下文语境,产生类似人类的文本响应。目前,智能客服聊天机器人集成了这项技术。随着这些机器人在语言翻译、创造性写作、理解上下文并作出有意义反应方面的能力...……更多
Kimi爆火背后:访问量仅次于文心一言和阿里通义,国内外大模型都在卷上下文
...款面向C端的大模型产品。早前,该公司宣布在大模型长上下文窗口技术上取得新的突破,Kimi已支持200万字超长无损上下文,并开启产品内测,该能力在不到半年内提升9倍。市场的火爆,导致Kimi服务器一度瘫痪,无法回复用户...……更多
infini-attention:谷歌大内存机制
谷歌大改Transformer,“无限”长度上下文来了。现在,1B大模型上下文长度可扩展到1M(100万token,大约相当于10部小说),并能完成Passkey检索任务。8B大模型在500K上下文长度的书籍摘要任务中,拿下最新SOTA。这就是谷歌最新提...……更多
Kimi爆火出圈,国产大模型首次超越海外!
2024年3月18日,国产AI大模型Kimi将上下文无损输入长度提升至200万字,成为国内大模型首次在部分能力上超越海外主流产品的里程碑。上下文输入长度的增加能够帮助模型更好学习文本知识,从而更有针对性得与用户互动。在长...……更多
OpenAI史诗级更新!最强大模型炸场,128K上下文、价格暴降2/3
...大方面更新重点值得关注和思考。1、GPT-4 Turbo:支持128k上下文,相当于300页文档,输入价格大降2/3,速率限制翻倍,知识更新到2023年4月,改进指令跟随和JSON Mode,更新多个函数调用能力。这意味着比GPT-4更强、更便宜、开发成...……更多
GTC对话黄仁勋:我眼中的GPU,和别人有很大差别
...不是基于检索的。当然,这个生成过程必须是智能的、与上下文相关的。我相信,未来人们电脑上的几乎每一个像素、每一次交互都将通过生成过程产生,我相信 Sam 也这么认为。希望通过 Blackwell 新一代架构能为生成式 AI 这个...……更多
更多关于科技的资讯:
数实融合 新质未来 | 云帆工业互联网平台数字赋能大会成功举行
大众网记者 李婧 通讯员 晋亚文 于燕晨 东营报道6月14日,东营市“数实融合 新质未来”云帆工业互联网平台数字赋能大会成功举行
2024-06-14 21:02:00
本文转自:人民日报客户端沈文敏近日,第十七届国际太阳能光伏与智慧能源展览会(SNEC 2024)在上海举办。来自全球近100个国家和地区的3000余家企业参展
2024-06-14 21:26:00
激光科技领航未来,汉诺威深圳激光展6月19日盛耀开幕!
花开六月,深圳这座活力之都即将迎来备受期待的汉诺威深圳激光展LASERFAIR。汇聚一众行业精英共襄盛举,今年的展会将以焕新升级的世界激光制造大会为启
2024-06-14 16:45:00
随着外部经营环境的深刻变化,互联网、大数据、人工智能等新技术正在深刻改变着人们的生活方式和金融服务需求,银行客户更加期待在各类生产生活场景中无缝享受金融服务
2024-06-14 16:47:00
赛力斯的用户思维与张兴海的“敬畏”和“乐观”
作者|周尧“正是有了广大用户的支持,才有今天中国汽车全球第一的规模,有了中国新能源汽车的全球第一。”这是赛力斯集团董事长(创始人)张兴海在参加2024中国汽车重庆论坛时讲出的一句话
2024-06-14 17:03:00
本文转自:中国新闻网中新社辽宁营口6月14日电 题:在仙人岛上感受“膜”法产业作者 李紫薇气球是怎么制作的?高铁票的打印机如何运行
2024-06-14 17:17:00
独家对话:CEEX全币种交易所发起CMC的初衷与愿景
初衷与愿景:构建用户专属的交易平台“无名小卒,还是名扬天下?”这句来自经典游戏《赛博朋克2077》的开篇台词,鼓动着每一颗试图在赛博世界闯出名堂的心
2024-06-14 17:28:00
世界智能产业博览会|购票抽幸运,100%中奖!入口速戳→ 扫码阅读手机版
天津北方网讯:2024世界智能产业博览会定于6月20日-23日在国家会展中心(天津)举行。这场家门口的“高精尖”国际盛会
2024-06-14 17:32:00
本文转自:中国新闻网中新网南京6月14日电(唐娟 泱波 肖玉笛 魏园) 钢铁厂里,一个个机器人手臂代替人工对烧红的钢铁进行降温
2024-06-14 17:41:00
AQUA爱克泳池设备为别墅泳池打造健康水质,纵享品质生活
在快节奏的生活中,拥有一个高品质的私人别墅泳池非常令人向往。但即便是私人泳池,水质维护也不能放松。随着科技不断进步,现在别墅家庭开始追求“更健康的水质享受
2024-06-14 17:45:00
张亚勤李开复对谈:Scaling Law还没有达到顶峰,AGI存在失控风险
出品 | 搜狐科技作者 | 梁昌均6月14日,在2024北京智源大会上,智源研究院理事长黄铁军主持了一场炉边谈话,清华大学智能产业研究院院长张亚勤和零一万物CEO李开复围绕大模型的发展
2024-06-14 17:46:00
天加吸纳全球精英人才,引领绿色创新,打造健康舒适生活
近日,天加环境和天加能源迎来了70名社招精英。他们集结南京,通过参观展厅、实验室及产线,深入了解公司文化的根基,充分感受到天加在研发制造上的卓越实力和对产品质量精益求精的要求
2024-06-14 17:51:00
黔西南州市场监督管理局、黔西南州消费者协会6·18购物消费提示
6·18将至,各大电商平台、线下商超,已提前发布优惠购物信息,吸引消费者纷纷下单,各种满减、礼赠、秒杀,老套路,新花招令消费者应接不暇
2024-06-14 17:54:00
“光伏盛宴”SNEC开幕:美的能源“全链路”亮相
本文转自:人民日报客户端6月13日至15日,第十七届国际太阳能光伏与智慧能源大会暨展览会(SNEC光伏展)开幕。本次展会吸引了超过3500家参展商
2024-06-14 17:55:00
宝丰清香名酒财富推介会石家庄启幕,全国化进程迈出重要一步
河北新闻网讯 6月12日,由宝丰酒业主办,华糖云商承办的“宝丰清香名酒财富推介会”在河北石家庄启幕。本次推介会以“名酒宝丰 财富冀遇”为主题
2024-06-14 18:20:00