• 我的订阅
  • 头条热搜
...新方法,Ilya 也参与:研究提出了改进大规模训练稀疏自编码器的方法,并成功将 GPT-4 的内部表征解构为 1600 万个可理解的特征。由此,复杂语言模型的内部工作变得更加可理解。免费匿名使用 GPT 等热门大模型,DuckDuckGo AI Chat ...……更多
...石油天然气股份有限公司申请一项名为“一种基于堆栈自编码器的去除沉积背景方法及装置”的专利,公开号CN119861400A,申请日期为2023年10月。专利摘要显示,本发明公开了一种基于堆栈自编码器的去除沉积背景方法及装置。该...……更多
多模态竞技场对标90B Llama 3.2!Pixtral 12B技术报告全公开
...型不同的是,Pixtral选择从头开始训练了一个全新的视觉编码器。基于此,Pixtral 12B输入图片的分辨率和长宽比不受任何限制,并且在128K的上下文窗口范围内,想放多少张图片都行!从论文的测试结果来看,Pixtral 12B明显优于其他...……更多
仅用4块GPU、不到3天训练出开源版GPT-4o,这是国内团队最新研究
... Seamless Speech Interaction with Large Language ModelsLLaMA-Omni 由语音编码器、语音适配器、LLM 和流式语音解码器组成。用户的语音指令由语音编码器进行编码,经过语音适配器后输入到 LLM。LLM 直接从语音指令中解码文本响应,……更多
英伟达开源NVLM 1.0屠榜多模态!纯文本性能不降反升
...型架构仍然处于混乱状态,开源模型在选择LLM主干、视觉编码器以及训练数据方面都存在差异,性能优异的闭源多模态大模型也没有公布相关信息,无法直接进行模型对比和研究。并且,不同模型在处理高分辨率图像输入时的设...……更多
史无前例!Seq2Seq和GAN同获NeurIPS时间检验奖,Ilya连续2年获奖
...范式转变,该领域受益于这项工作奠定的基础。这是建立编码器-解码器架构的基础工作,启发了后来基于注意力的改进,导致了今天的基础模型研究。 值得一提的是,三人的另一项工作——word2vec,也斩获了去年的NeurIPS时间检...……更多
MSRA:视觉生成六大技术问题
...进行了梳理,他认为视觉信号拆分是最本质的问题。生成模型的目标是拟合目标数据分布,然而,目标数据分布过于复杂,难以直接拟合。因此,往往需要将复杂的信号做拆分,拆分成多个简单的分布拟合问题,再分别求解。信...……更多
清华教授唐杰:Scaling Laws虽被质疑,但至今仍是提高大模型性能的重要方法
...目前的大模型主要基于Transformer架构,有三种主流架构:编码器(encoder-only,例如BERT)、编码器-解码器(encoder-decoder,例如T5),以及解码器(decoder-only,例如GPT)。这几个架构都是国外设计并流行起来的。“国内在原始创新和自主研发...……更多
扩散模型训练方法一直错了!谢赛宁:Representation matters
...究表示了认可:「我们知道,当使用自监督学习训练视觉编码器时,使用具有重构损失的解码器的效果远不如使用具有特征预测损失和崩溃预防机制的联合嵌入架构。这篇来自纽约大学 @sainingxie 的论文表明,即使你只对生成像...……更多
腾讯云在msu世界视频编码器大赛上表现出色
腾讯云官方发布公告称,其编码器产品在MSU世界视频编码器大赛上表现出色。该赛事由莫斯科国立大学主办,是业界最具权威和影响力的比赛之一。视频编码技术对于降低视频存储、传输和播放的成本至关重要。以一部两小时...……更多
清华团队提出大模型“密度定律”;足球领域首个视觉语言基础模型
...SAM 2 的关键部件包括一个用于提取帧特征的大型多级图像编码器,以及一个用于存储过去帧上下文以帮助当前帧分割的存储机制。多级图像编码器和内存模块的高计算复杂度限制了其在实际任务中的应用,例如移动设备上的视频...……更多
关注世界互联网大会 | 创新发展典型案例揭晓 快手、360等十大项目入选
...备高质量、高密度、智能化的特点。相比业内常用的硬件编码器,SL200具备更高的视频压缩质量和编解码密度,相比x265 medium节省约30%码率,单卡可支持8K@120fps或8路4K@60fps转码,达到业界领先水平。高质量视频压缩与高密度编解...……更多
映众RTX 4070冰龙超级版显卡评测:5000元价位新选择
...发布会中说到,DLSS 3能够突破CPU的限制来提升帧数。双AV1编码器本次升级的第八代NVENC编码器可以说是直播、视频、后期工作者的极大福音。它首次加入了对AV1编码的支持,最显而易见的效果就是直播。相比传统的H.264编码,AV1...……更多
4090笔记本0.37秒直出大片!英伟达联手MIT清华祭出Sana架构,性能秒杀FLUX
.../2410.10629Sana的核心设计包含了以下几个要素:深度压缩自编码器(AE):传统自编码器只能将图像压缩8倍,全新AE可将图像压缩32倍,有效减少了潜在token的数量。线性DiT(Diffusion Transformer):用「线性注意力」替换了DiT中所有的...……更多
LeCun最新万字演讲:纯语言模型到不了人类水平,我们基本已放弃
...个表示空间中进行预测。两个嵌入将被破坏的版本X送入编码器,将Y送入编码器,然后训练系统从X的表示中预测Y的表示。那么如何做到这一点呢?如果单纯使用梯度下降和反向传播这样的方法来训练系统,以减少预测误差,那...……更多
OpenCity大模型预测交通路况,零样本下表现出色,来自港大百度
...律性。 动态交通模式:除了周期性变化外,作者的时间编码器还捕捉交通数据随时间演变的复杂、非线性时态动态和趋势。周期性交通转换建模作者利用时间嵌入D和空间嵌入C捕获交通中的周期性模式,目标是揭示历史交通模式...……更多
无需训练即可大幅提升SAM 2!SAM2Long来了,港中文 上海AI Lab出品
...器和内存模块的多次处理上。然而,这些模块相较于图像编码器来说非常轻量。例如,SAM 2-Large 的图像编码器包含 212M 个参数,而模型其余的参数只有 12M,大约仅占模型的 5%。因为 SAM2Long 也只需要处理一次图像编码器,所以内...……更多
科大讯飞构建全新语音建模框架 降低AI声音复刻门槛
...突破了语义表征,采用mel VQ-AE模型结合语音自监督预训练编码器,并引入音色最小互信息约束,成功解耦出音色无关的离散语义token。这种结构实现了发音内容与音色特征的可控分离,也显著提升了语义LLM的建模稳定性。在音色...……更多
【硬件编年史】秦始皇都做不到统一!视频编码的那点事
...H.264/AVC高了太多,不过这点已经通过软件优化跟新的硬件编码器化解了,真正妨碍H.265/HEVC推广的其实还是它高昂的专利费用问题,每个用户需要1美元左右,对于普通人可能没什么,但对那些以流媒体或直播为主的网站那就是一...……更多
美国东北大学提出视频数据增强方法,能让视频模型学到更好的表征
...热门的多模态大模型的研究,本次方法可被用于视频模态编码器的训练中,从而让模型提取更好的关于视频模态的表征。除此之外,该团队所提出的可用于解决色调变换所导致的分布偏移的方法——Variation Alignment,也是一个能...……更多
全球十亿级轨迹点驱动,首个轨迹基础大模型来了
...础模型 UniTraj在模型的架构设计上,UniTraj 采用了灵活的编码器 - 解码器架构,为了提升模型的计算效率、鲁棒性和对各种数据质量的适应能力,作者在模型训练过程中进一步集成了一系列的重采样策略和掩码策略。重采样策略...……更多
在视频编码领域锐意进取
...影响更加明显,比如《王冠》中某集烟雾弥漫的场景堪称编码器的噩梦。这些挑战影响到了安妮的日常生活,她散步时会考虑这些问题,拿起镶满水钻的手机壳时会想到《芭比梦幻屋》中的喷泉,甚至自己的孩子也会指着某样东...……更多
...一步解析Sora的技术原理,Sora是将原始视频通过一个视觉编码器编码到隐空间形成隐时空块,这些隐时空块(结合文本信息)通过三维Transformer结构做扩散模型的训练和生成,将生成的隐时空块再通过视觉解码器解码到像素空间...……更多
索泰rtx4080super测评
...和编解码方面的性能表现,GEFORCERTX4080SUPER配备了2个NVENC编码器,且支持新一代AV1视频编码技术,相同视频大小下能够提供更加快速的视频编码和更高质量的流媒体传输性能。国内的剪映专业版已经实现了对NVIDIAAV1视频编码器的...……更多
【玖越机器人】堆叠降噪自动编码器(SDAE)
自动编码器(Auto-Encoder,AE)自编码器(autoencoder)是神经网络的一种,经过训练后能尝试将输入复制到输出。自编码器内部有一个隐藏层 h,可以产生编码(code)表示输入。该网络可以看作由两部分组成:一个由函数 h = f(x) 表...……更多
智谱AI杀入视频生成:「清影」上线,时长6秒,免费不限量
...了解决这些问题,智谱 AI 自研了一个高效的三维变分自编码器结构(3D VAE),可以将原视频空间极致压缩到 2%,使得模型训练成本大幅下降,训练难度也大大降低。模型结构采用因果三维卷积(Causal 3D convolution)为主要模型组...……更多
...多变的行业5G网络环境,如钢铁现场、煤矿作业。基于自编码器的物理层安全传输技术能够进行针对性安全编码设计,通过机器学习算法完成信道模型的自动建模和编码,实现数据驱动的自动化编译码、最大化通信保密速率。面...……更多
obsstudio迎来29.0版本更新,av1编码支持
...对AV1编码的支持,OBSStudio29在Windows上增加了对英特尔HEVC编码器的支持,和在macOS上增加了对原生HEVC和ProRes编码器的支持。关于AV1编码,AV1是一种新兴的开源免版税视频压缩格式,由开放多媒体联盟(AOMedia)行业联盟于2018年初联合...……更多
抖音入场世界杯,火山引擎打满全场
...程赛事提供超高清、低延时的直播服务,还凭借自研的BVC编码器、提升画质的自适应ToneMapping算法、优化互动体验的火山引擎 RTC等,让这场火山引擎视频云深度参与的“全民世界杯”真正落地。抖音遇上世界杯 全民世界杯的打...……更多
...构是基于Transformer的变体。Transformer主要有三种模式,即编码器(encoder)、解码器(decoder)以及同时包含编码器和解码器的Transformer模型。以将汉语翻译成法语为例,编码器将输入的每个单词进行编码,并提供每个单词的语义理...……更多
更多关于科技的资讯:
生产周期缩短1/3,宇捷轴承凭核心技术领跑细分市场
齐鲁晚报·齐鲁壹点 陶春燕 山东省宇捷轴承制造有限公司是国家级专精特新重点“小巨人”企业、国内最大的调心滚子轴承生产企业
2025-09-27 20:05:00
电动车照亮小区应急通道?淄博供电验证居民V2G桩集群放电场景
当小区突发故障停电,地下车库里业主们的电动汽车,瞬间变身为一个巨大“充电宝”,为消防、通风和应急照明系统供电,守护社区安全
2025-09-27 12:35:00
数字游民在南京:我推着房间找邻居
随时“云端”办公,自由“安放”工位,数字游民社区兴起数字游民在南京:我推着房间找邻居南京首个乡村数字游民社区坐落于浦口草圣书乡景区
2025-09-26 08:14:00
三迭纪项目入选国家药监局智慧监管典型案例年产3亿片!3D打印药片,片片皆可溯源南报网讯(通讯员唐斐记者张希)近日,国家药品监督管理局信息中心正式公布“2025年药品智慧监管典型案例”
2025-09-26 08:14:00
二〇二五年中国香料香精化妆品精品博览会启幕十七个香妆产业创新转化项目签约南报网讯(记者夏思宇)9月25日上午,2025年中国香料香精化妆品精品博览会在南京扬子江国际会议中心开幕
2025-09-26 08:15:00
厦门网讯(厦门日报通讯员 李汶鸿)24日,在上海市普陀区普熙金融广场PUSH艺术中心举办的“数字人民币国际运营中心业务平台推介会”上
2025-09-26 08:38:00
在智能语音机器人赛道,技术稳定性与迭代能力是核心竞争力,神州泰岳旗下鼎富智能avavox大模型语音机器人依托两大技术优势
2025-09-26 08:52:00
服务升级,烟台联通创新推出急救知识培训增值服务
近日,烟台联通在客户日活动中面向VIP客户创新开展急救知识培训公益增值服务,邀请中国红十字会专业急救讲师现场授课,通过“理论+实操”相结合的方式
2025-09-26 09:24:00
中交一公局集团建筑公司武清城改项目QC成果斩获省部级二等成果奖
近日,由中交一公局集团建筑公司武清城改项目申报的《BIM+智能设备在大型城中村改造项目施工阶段的应用》凭借在特大型群体住宅工程的应用实践
2025-09-26 10:49:00
中新经纬9月26日电 9月25日,小米集团创始人、董事长兼CEO雷军在年度演讲上回顾了小米汽车造车历程。雷军提到,今年6月
2025-09-26 10:54:00
与邻一起 共建美好社区!我爱我家首届社区好邻节启幕
近日,头部房产经纪企业我爱我家正式启动主题为“好邻·好礼·好生活”的2025我爱我家社区好邻节。据介绍,本次活动从9月22日至10月31日
2025-09-26 11:24:00
小米汽车推出独特定制服务:试运营一年,每月最多定制40台
9月25日,小米公司创始人雷军在年度演讲中宣布推出一项独特的服务——小米定制服务。雷军表示,小米YU7是为一群高审美,无法容忍平庸的人设计的
2025-09-26 11:37:00
解放双手!小米推出首款三区洗衣机,衣服、内衣、袜子各占一个筒
9月25日,在年度演讲暨秋季新品发布会上, 小米推出了首款三区洗衣机——米家三区洗衣机Pro 滚筒10kg,售价3999元
2025-09-26 11:38:00
机构:鸿蒙电脑占高端市场份额超70%
华为鸿蒙折叠电脑MateBook Fold非凡大师的上市成为改写高端笔记本市场格局的关键事件。根据GFK 2025年6月统计
2025-09-26 11:38:00
补链强基 延链拓新——济南历城绘就产业发展新图景
鲁网9月26日讯(记者 李晓晨)从算力之巅的超级计算中心到家庭智能的创新终端,从芯片封装的关键环节到水处理技术的自主研发
2025-09-26 12:03:00