• 我的订阅
  • 头条热搜
iPhone可跑2B小钢炮!谷歌Gemma 2来袭,最强显微镜剖解LLM大脑
【新智元导读】谷歌DeepMind的小模型核弹来了,Gemma 2 2B直接击败了参数大几个数量级的GPT-3.5和Mixtral 8x7B!而同时发布的Gemma Scope,如显微镜一般打破LLM黑箱,让我们看清Gemma 2是如何决策的。谷歌DeepMind的小模型,又上新了!就...……更多
...然图像是一个重要的里程碑。QST研究人员称,人类已使用显微镜和其他设备来观察肉眼看不见的世界,但还无法看到一个人的内心世界,这是人类第一次窥视另一个人头脑中的思想。从本质上讲,它可用来帮助创建新的通信设备...……更多
世界上第一项针对人工智能“大脑”的研究,剖析并编辑它的思想
...人员使用一种名为“字典学习”的技术,通过“稀疏自动编码器”,开始尝试将“神经元激活”的模式与人类熟悉的概念和想法相匹配。去年年底,他们在极小的“玩具”版本的语言模型上取得了一些成功,发现了模型在处理DNA...……更多
稀疏自编码器是如何工作的,这里有一份直观说明
...阵 → ReLU 激活 → 矩阵在解释机器学习模型方面,稀疏自编码器(SAE)是一种越来越常用的工具(虽然 SAE 在 1997 年左右就已经问世了)。机器学习模型和 LLM 正变得越来越强大、越来越有用,但它们仍旧是黑箱,我们并不理解...……更多
...式的跨越。文|闻静功能性磁共振成像(fMRI)是一种测量大脑活动的非侵入性方法,原理是通过刺激特定感官,激活大脑皮层相应部位的神经,并通过磁共振图像来显示。近日,科学家将fMRI与大型语言模型(LLM:一种人工智能算...……更多
谷歌 AI 绘画 4 大牛携手创业,天使估值 7 个亿
...含一个冻结的语言模型T5-XXL(谷歌自家出品),当作文本编码器。T5-XXL的C4训练集包含 800GB 的纯文本语料,在文本理解能力上比CLIP强不少,因为后者只用有限图文对训练。图像生成部分则用了一系列扩散模型,先生成低分辨率...……更多
...任程和平院士介绍,团队通过自主研发的双侧扫描双光子显微镜,首次实现SCN区域近万颗神经元跨昼夜的钙成像。研究发现,SCN中以钙脉冲为基本单元,可形成从秒到小时到近日周期的跨尺度钙信号,展示出潜在的时间编码能力...……更多
零样本即可时空预测!港大、华南理工等发布时空大模型UrbanGPT | KDD 2024
...GPT是一种创新的时空大型语言模型,它通过结合时空依赖编码器和指令微调技术,展现出在多种城市任务中卓越的泛化能力和预测精度。这项技术突破了传统模型对大量标记数据的依赖,即使在数据稀缺的情况下也能提供准确的...……更多
谷歌开源最强端侧小模型:2B参数越级跑赢GPT-3.5-Turbo
...够了解 Gemma 2 模型的决策过程。Gemma Scope 就像一台强大的显微镜,它使用稀疏自编码器 (SAE) 放大模型的内部工作原理,使其更易于解释。Gemma Scope 技术报告:https://storage.googleapis.com/gemma-scope/gemma-sc……更多
轻量化模型架构catvton的优势在哪里
...著帮助的文本交叉注意力,同时也不需要任何额外的图像编码器来辅助生成。 下表详细地比较了不同方法与CatVTON的模块数量、参数量、可训练参数量、显存占用、推理条件。在网络模块上,CatVTON只需要VAE+UNet,无需任何额外的...……更多
150万条多语种音频数据!浙大清华发布语音伪造检测框架SafeEar,兼顾隐私保护|CCS 2024
...离与重建的过程中实现语音特征解耦。如图3所示,包括编码器(Encoder)、多层残差向量量化器(Residual Vector Quantizers, RVQs)、解码器(Decoder)、鉴别器(Discriminator)四个核心部分。其中,RVQs主要包括级联的八层量化器,在第...……更多
OpenCity大模型预测交通路况,零样本下表现出色,来自港大百度
...律性。 动态交通模式:除了周期性变化外,作者的时间编码器还捕捉交通数据随时间演变的复杂、非线性时态动态和趋势。周期性交通转换建模作者利用时间嵌入D和空间嵌入C捕获交通中的周期性模式,目标是揭示历史交通模式...……更多
华人团队爆火instructblip抢跑看图聊天
...方法。如上图所示,Q-Former被设计用来从一个冻结的图像编码器的输出中提取视觉特征。根据BLIP-2的论文,Q-Former已经分成两个阶段进行了预训练,通过预训练,它学会了提取可以被LLM消化的文本对齐的视觉特征。在推理过程中...……更多
苹果的封闭生态为大模型打开!发布开源多模态大模型、每天为 AI 烧百万美元,零碎的 Android 生态打得过吗?
...型架构根据介绍,Ferret 主要由用于提取图像嵌入的图像编码器;用于提取区域连续特征的空间感知视觉采样器;以及用于对图像、文本和区域特征进行联合建模的大语言模型组成。输入将图像输入经过预训练的视觉编码器 CLIP-Vi...……更多
微美全息(NASDAQ:WIMI)将迁移学习引入到语义分割模型,实现高质量的语义分割任务
...器进行微调。在语义分割中,可以将已经训练好的模型的编码器部分用于新任务,然后在新任务上训练新的解码器,并帮助利用已有的大规模标注数据集来训练模型,从而减少对新数据集的标注需求,提高模型性能。WIMI微美全...……更多
英国ai初创公司wayve公布gaia-1最新进展
...汽车上路时的安全性和效率。据悉,GAIA-1会先运用专门的编码器,将影片或文字等各种形式的输入,编码成一个共享的表示形式,进而在模型中实现统一的时序对齐和上下文理解,这种编码方法,让模型能够更好地整合和理解不...……更多
扩散模型也能搞定社交信息推荐,港大数据智能实验室提出RecDiff
...及去噪效果方面均表现出色。研究方法基于图协同过滤的编码器受到简化图神经网络(GNN)成功应用的启发,图那对在社交去噪框架中采用了轻量级图卷积网络(GCN)作为图编码器。 图关系去噪模型隐空间的社交扩散汲取扩散...……更多
仅用4块GPU、不到3天训练出开源版GPT-4o,这是国内团队最新研究
... Seamless Speech Interaction with Large Language ModelsLLaMA-Omni 由语音编码器、语音适配器、LLM 和流式语音解码器组成。用户的语音指令由语音编码器进行编码,经过语音适配器后输入到 LLM。LLM 直接从语音指令中解码文本响应,……更多
清华提出时间序列大模型:面向通用时序分析的生成式Transformer
...间序列的大模型(Large Time Series Model, LTSM)。模型采用仅编码器(Decoder-only)结构,基于多领域时间序列进行大规模预训练,通过微调突破了少样本场景下的性能瓶颈,适配不同输入输出长度的时间序列,以及预测,填补,异常...……更多
AI也会「刷抖音」!清华领衔发布短视频全模态理解新模型 | ICML 2024
...一部分:音视频编码和时间对齐video- SALMONN使用Whisper语音编码器和BEATs音频编码器,分别得到语音和音频的编码向量序列(每1秒音频对应50个向量),同时使用InstructBLIP视觉编码器,以2 FPS的视频采样率得到视觉编码向量序列(...……更多
...智能柔性关节领域不断钻研,通过将电机、驱动器,以及编码器整合到一起,并不断优化电机与算法,配合机器人“大脑”,一步步拓展更丰富的功能和应用场景。智能柔性关节让服务机器人在各类场景里更加实用,而把它们的...……更多
速度惊人,手机跑stablediffusion,12秒出图
...络被设计为近似p(z|y)形式的条件分布,利用条件去噪自动编码器θ(zt,t,τθ(y))(denoisingautoencoder)。每次迭代t采用UNet架构。同时,交叉注意机制(cross-attentionmechanism)被用来操作潜在空间和文本嵌入向量,在迭代过程中预测z的去..……更多
【玖越机器人】堆叠降噪自动编码器(SDAE)
自动编码器(Auto-Encoder,AE)自编码器(autoencoder)是神经网络的一种,经过训练后能尝试将输入复制到输出。自编码器内部有一个隐藏层 h,可以产生编码(code)表示输入。该网络可以看作由两部分组成:一个由函数 h = f(x) 表...……更多
...多变的行业5G网络环境,如钢铁现场、煤矿作业。基于自编码器的物理层安全传输技术能够进行针对性安全编码设计,通过机器学习算法完成信道模型的自动建模和编码,实现数据驱动的自动化编译码、最大化通信保密速率。面...……更多
MSRA:视觉生成六大技术问题
...进行了梳理,他认为视觉信号拆分是最本质的问题。生成模型的目标是拟合目标数据分布,然而,目标数据分布过于复杂,难以直接拟合。因此,往往需要将复杂的信号做拆分,拆分成多个简单的分布拟合问题,再分别求解。信...……更多
智谱AI发布视频生成大模型,B站参与研发,亦庄提供算力|甲子光年
...决内容连贯性的问题,智谱自研了一个高效的三维变分自编码器结构(3D VAE),将原视频空间压缩至2%大小,以此减少视频扩散生成模型的训练成本及训练难度。模型结构方面,智谱采用因果三维卷积(Causal 3D convolution)为主要...……更多
科学家揭示大脑神秘新机制:尝试解释海马体如何映射外部世界
...研究。比如,在攻读博士期间,周宁常常借助双光子荧光显微镜技术,对那些被荧光指示剂标记的脑片组织进行成像记录。她经常观察到活脑片细胞中的钙离子荧光强度随着脑细胞的活动变化而忽明忽暗,此起彼伏、如同遥远星...……更多
比Stable Diffusion便宜118倍!1890美元训出11.6亿参数高质量文生图模型
...。模型前端使用Stable-Diffusion-XL模型中的四通道变分自动编码器(VAE)来提取图像特征,另外还测试了最新的16通道VAE在大规模训练(省钱版)中的性能。 作者使用EDM框架作为所有扩散模型的统一训练设置,使用FID以及CLIP分数来...……更多
日趋完整的“迷你大脑”离真正的人脑还有多远
...体中。肉眼望去,那只是一些不规则的小斑点,但在高倍显微镜下,通过巧妙的染色技术,它们呈现出一圈圈层次分明的红色、蓝色和绿色的复杂构造。这就是研究人员在实验室里培养出来的人类脑细胞。通过脑细胞相互连接的...……更多
北大推出全新机器人多模态大模型!面向通用和机器人场景的高效推理和操作
...予机器人端到端的推理和操纵能力,本文创新性地将视觉编码器与高效的状态空间语言模型集成,构建了全新的 RoboMamba 多模态大模型,使其具备视觉常识任务和机器人相关任务的推理能力,并都取得了先进的性能表现。同时,...……更多
更多关于科技的资讯:
iphone16promax与三星s24ultra对比
当今年初登场的“安卓机皇”三星S24Ultra,与苹果最新旗舰iPhone16ProMax同台竞技时,你觉得谁会从这场“战争”中胜出
2024-10-01 19:32:00
【视频】来金溪过个不一样的国庆
本文转自:人民网-江西频道【视频】来金溪过个不一样的国庆
2024-10-01 21:16:00
10月1日消息,科技媒体gizmochina昨日(9月30日)发布博文,表示在挖掘GSMAIMEI数据库之后,发现了vivoXFold4智能手机的踪迹
2024-10-01 21:26:00
索尼psn遭遇大规模宕机,所有平台受影响
10月1日消息,索尼的PlayStationNetwork(PSN)遭遇大规模宕机,导致PlayStation5和PlayStation4的玩家无法在线玩游戏
2024-10-01 21:26:00
三星Galaxy Z Fold6可以实现分屏或者浮动窗口操作
10月1日消息,科技记者MishaalRahman昨日(9月30日)发布博文,报道称在三星GalaxyZFold6折叠屏手机上
2024-10-01 21:31:00
苹果收购beddit之后的逐步淘汰情况
10月1日消息,科技媒体MacRumors昨日(9月30日)发布博文,报道称苹果公司于2017年收购Beddit睡眠监测配件之后
2024-10-01 21:32:00
火狐firefox131稳定版更新引入临时站点权限
10月1日消息,Mozilla昨日(9月30日)推出了火狐Firefox131稳定版,本次更新重点引入了临时站点权限功能
2024-10-01 21:34:00
运营商verizon出现重大网络故障,影响大量用户
10月1日消息,运营商Verizon出现重大网络故障,影响了美国各地的大量用户,其中包括使用iPhone的用户。受影响的用户可能无法发送或接收电话
2024-10-01 21:34:00
国庆假期高速公路免费通行时段10月1日0时至10月7日24时
9月30日消息,今年国庆假期,七座以下(含七座)小型客车通行收费公路继续执行免收通行费政策,免费通行时段起止时间为10月1日0时至10月7日24时
2024-10-01 21:36:00
海思官方宣布将以“创新使能,让每一次改变都是质变”为主题参展
9月30日消息,第12届中国移动全球合作伙伴大会将于10月11日至13日在广州举行,共同创造AI+时代新愿景。海思官方宣布本次将以“创新使能
2024-10-01 21:39:00
本文转自:人民网-广西频道近日,南方电网广西电网公司创新开发推出首个3D数字藏品“小赫兹‘壮壮’‘美美’零碳游山水”,向社会传递广西电网“零碳绿电”举措助力桂林世界级旅游城市建设的美好寓意
2024-10-01 12:46:00
澎湃OS体验增强版Beta发力:多款机型获推新版本
在操作系统方面,小米手机一直都极具争议声,虽然这几年的市场发展速度非常迅速,但在操作系统方面的压力还是很大的。一方面,如今各大手机厂商都在系统方面进行了很大幅度的发力
2024-10-01 12:50:00
红米K80系列:续航、影像、性能均清晰,有望重现“焊门员”
如今的中端手机市场竞争很激烈,对于预算不足,又或者是喜欢高性价比的消费者来说,确实很容易产生选择的欲望。而说到性价比方向
2024-10-01 12:51:00
魅族Lucky 08已正式发布
期待许久的魅族Lucky08终于正式发布了,而红米Note14系列也是进入了发布倒计时阶段,产品本身的配置参数也是没有什么悬念
2024-10-01 12:51:00
澎湃OS体验增强版Beta已推送:动效升级,游戏功耗大降!
每次提及操作系统优化的时候,小米手机总是被吐槽的一位,甚至直到现在,也是有很多消费者对澎湃OS系统进行疯狂吐槽。不过自从8月份大更新之后
2024-10-01 13:53:00