- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...，一名工程师 Jay Mody 在一篇文章汇总将用 60 行 NumPy 代码从头实现一个 GPT。并把 GPT-2 模型权重加载到实现中，从而生成文本。原文链接：https://jaykmody.com/blog/gpt-from-scratch/作者 |Jay Mody译者| 禾木木出品 ……更多
2023-02-15 11:00:00从头,代码,技巧,模型,矩阵,输入
...了自动提示词工程的概念、原理和工作流程，并通过代码从头实现了这一方法。自动提示词工程是什么？自动提示词工程（APE）是指自动生成和优化 LLM 提示词的技术，目标是提升模型在特定任务上的性能。其基于提示词工程的...……更多
2024-09-10 13:39:00从头,人工,提示,指南,工程,提示
...调试器和性能分析工具组成的工具链，，帮助开发者优化代码简而言之，CUDA使GPU加速LLM训练变为现实，大幅缩短了训练时间。100%的Triton内核Pytorch最近发表了一篇技术博客，他们以两个模型——Llama3-8B和IBM的Granite-8B Code为例，100...……更多
2024-09-07 09:48:00新时代,推理,内核,矩阵,乘法,英伟
...性能提升，其模型技术知识能力提升超过20%，数学/推理/代码/文创能力提升超过30%。同时，「天工3.0」新增了搜索增强、研究模式、调用代码及绘制图表、多次调用联网搜索等能力，并针对性地训练了模型的Agent能力，使得「天...……更多
2024-04-03 11:35:00天工,颠覆,模型,体验,音乐,天工
...atGPT一个，光是基于文本输入的就有7种——图像、视频、代码、3D模型、音频、文本、科学知识……尤其2022年，效果好的AI生成模型层出不穷，又以OpenAI、Meta、DeepMind和谷歌等为核心，发了不少达到SOTA的模型。这不，立刻有学者...……更多
2023-01-30 16:34:00生成,模型,新论,代表作,盘点,进展
... GPU 和 TPU 上，软件是一场噩梦。处理任意 CUDA 和 PyTorch 代码需要极其复杂的编译器。第三方 AI 芯片（如 AMD、Intel、AWS 等）在软件上总共花费了数十亿美元，但收效甚微。而 Sohu 只运行 transformer，因此只需要为 transformer 编写……更多
2024-06-27 09:24:00辍学生,哈佛,芯片,速度,芯片,模型
...窗口达200K左右。本次更新主要增强知识、数学、推理及代码能力，全面对标GPT-4 Turbo。在文科能力方面，“日日新5.0”的创意写作能力、推理能力及总结能力均有提升，相同的中文知识注入后，可获得更好的理解总结及问答，为...……更多
2024-04-24 09:32:00商汤,模型,升级,商汤,模型,推理
...Net b1.58将每个参数仅用三元值表示，但是所有这些都需要从头开始训练模型，并不是谁都有预算来进行LLM预训练。而Huggingface Transformers最近整合了BitNet b1.58，运用了一些技巧，使得现有模型可以直接微调到1.58bit。感兴趣的童鞋...……更多
2024-10-23 12:05:00模型,微软,推理,框架,参数,模型
...的潜力，提出新的高效微调方法LoRA-Dash。来看具体内容。从头搭建特定任务方向的框架随着大型语言模型的发展，针对特定任务微调模型往往需要大量计算资源。为了解决这一问题，参数高效微调（PEFT）策略应运而生，像LoRA等...……更多
2024-09-18 09:57:00哈佛,交大,框架,方向,任务,方向
...8 张 AMD MI300X GPU 和 JAX 微调 LLaMA 3.1 405B 模型的方法，所有代码现已开源。Github 链接：https://github.com/felafax/felafax
机器之心对博客内容进行了不改变原意的编译、整理，以下是博客内容：JAX 尤其适合非英伟……更多
2024-10-09 09:52:00模型,跟着,博客,模型,参数,训练
...size 的 scaling。Scaling model 是通常改变模型结构，往往需要从头训练整个模型，带来了过多的资源消耗，使其越来越不切实际。在本文中，研究团队使用 token 这一概念建模所有的计算，即将 model parameters 也视为一种 token，网络的...……更多
2024-11-15 09:51:00马普,北大,网络,模型,增量式,增量
...十亿个值，从而尽可能减少存储参数所需的空间。让我们从头开始，探索数值是如何表示的，然后再进行优化。如何表示数值数值存储的形式通常是浮点数（floting point number，或简称为floats）：一个带有小数点的正数或负数。这...……更多
2024-08-01 09:38:00干货,可视化,模型,工程师,指南,工程
...界主流的个性化精品数字人通常属于在单个目标人数据上从头训练的小模型，虽然这种小模型能够有效地学到说话人的外表和说话风格，这种做法存在低训练效率、低样本效率、低鲁棒性的问题。相比之下，近年来许多工作专注...……更多
2024-11-01 09:27:00模型,高质量,训练,数字,个性,模型
...已支持一半以上蚂蚁工程师的日常开发工作，他们提交的代码中10%由AI生成。 ……更多
2024-05-29 07:07:00矩阵,蚂蚁,集体,开放,应用,技术
...个深度学习堆栈，并与微软Azure云平台一起为其工作负载从头开始共同设计了一台超级计算机。一年前，OpenAI训练GPT-3.5作为系统的第一次“试运行”，发现并修复了一些错误并改进了其理论基础。结果GPT-4训练运行前所未有地稳...……更多
2023-03-15 21:00:00单词,输出,性能,模型,文本,语言
...了整个模型的推理速度。为什么要把Llama变成Mamba？因为从头开始训练一个大模型太贵了。Mamba也火了这么长时间了，相关的研究每天都有，但自己训练大尺寸Mamba模型的却很少。目前比较有名的是AI21的Jamba（进化到了1.5版本，最...……更多
2024-09-06 10:01:00推理,更快,性能,模型,输出,训练
...200K左右。本次更新主要聚集增强了知识、数学、推理及代码能力，全面对标GPT-4Turbo，主流客观评测上达到或超越GPT-4Turbo。在文科能力方面，“日日新5.0”的创意写作能力、推理能力以及总结能力均大幅提升，相同的中文知识注...……更多
2024-04-25 01:02:00商汤,云端,模型,体系,科技,商汤
...新的训练集上微调Transformer。请注意，每次迭代都不需要从头开始训练。通过再进行5次循环，模型很快学会只生成完整的二分图，而且这些二分图中的大多数都具有相等的两部分大小，见图4。可以直观地发现，随着迭代的代数...……更多
2024-11-14 09:44:00年数,研究者,算法,猜想,难题,杀手
...的开源数据集，配合开源代码，使得感兴趣的从业者可以从头开始完整复现这些令人惊艳的效果。为了完全复刻原始视频的表情和动作，MegActor 采用了原始图像进行驱动，这与多数厂商使用 sketch、pose、landmark 的中间表示皆然不...……更多
2024-06-28 09:41:00人像,生成,表情,输入,照片,视频
...的指令。“最惊艳的是它通过一张网页草图在10秒内生成代码”与此前的GPT系列模型相比，GPT-4最大的突破之一是在文本之外还能够处理图像内容。OpenAI表示，用户同时输入文本和图像的情况下，它能够生成自然语言和代码等文...……更多
2023-03-15 21:00:00草图,从业者,生成,工程师,代码,工程
...源2.0」在通用服务器上跑起来了！面对用Java编写程序的代码任务，「源2.0」非常迅速地给出了结果。再给它上一道推理题——船边挂着软梯，离海面2米，海水每小时涨半米，几小时海水能淹没软梯？
同样，AI几乎0延迟给出了...……更多
2024-08-02 09:47:00大厂,模型,参数,疯狂,服务器,服务
...动正式告一段落。在过去的一周里，DeepSeek每天开源一个代码库，堪称公开了一个“技术全家桶”。业内人士分析，这一系列的技术组件看似独立，实则共同构建成了一套精密协同的系统，让DeepSeek在有限算力之下最大程度地“...……更多
2025-03-01 18:59:00利润率,利润,成本,理论,节点,模型
...人工智能可以回答各种问题，无论是历史事实还是计算机代码，令人们眼花缭乱，并引发了一波人工智能投资潮。现在，有用户似乎找到了利用ChatGPT黑暗一面的方法，通过强制手段迫使其违反自己的规则，回答一些违禁问题。Ch...……更多
2023-02-07 23:01:00威胁,技巧,问题,用户,人工智能,输入
...U和还是TPU上，软件都是一场噩梦。处理任意的CUDA和PyTorch代码，需要的编译器极其复杂。为此，AMD、英特尔、AWS这些第三方AI芯片，都在软件上投入了数十亿，但效果依然不佳。这里，Sohu的好处就体现出来了——因为它只运行Tra...……更多
2024-06-27 09:25:00小哥,英伟,哈佛,华裔,推理,芯片
...。现阶段，视觉生成模型擅长创建逼真的视觉内容，然而从头开始训练这些模型的成本和工作量仍然很高。比如 Stable Diffusion 2.1 花费了 200000 个 A100 GPU 小时。即使研究者使用最先进的方法，也需要在 8×H100 GPU 上训练一个多月的...……更多
2024-07-30 09:37:00从头,模型,训练,参数,掩蔽,训练
...引擎结合，能够被被特定的条件触发，自动地成长出新的代码。选择宝可梦题材做实验，是因为团队中大部分成员都是宝可梦粉丝，目前相关论文已上传ArXiv平台。「失控玩家」走进现实研究团队用电影《失控玩家》中的主人公 ...……更多
2024-09-05 10:04:00交大,进化,引擎,世界,研究人员,引擎
...性，以避免重复编写相似的状态机模型，提高开发效率和代码质量。具有较好的可维护性和可扩展性，以方便后期的升级和维护。安全需求能够保护IOT设备的数据安全和隐私安全，避免因状态机模型漏洞而导致的数据泄露和攻击...……更多
2023-03-12 14:52:00神奇,状态,领域,状态,模型,设备
...数据。而最近一个多月，混元大模型能力提升比较大的在代码能力以及数据推理，效果较此前有20%的提升。并且，对话上下文窗口，也从原来的4K，中小模型可以长至16K。而第三季度，可以说是国内大模型领域的关键节点——包...……更多
2023-10-29 10:13:00腾讯,接入,生成,模型,图像,业务
...确。同时，它还附上了正确做法。聚集增强数学、推理及代码能力商汤生成式AI产品系列的突破性表现，得益于其最新发布的日日新5.0版本大模型。记者了解到，自去年4月首次发布，商汤“日日新SenseNova”大模型体系已正式推出...……更多
2024-04-29 04:36:00商汤,模型,科技,商汤,能力,模型
...了一个单独的向量来表示绝对位置，并使用一些三角函数技巧来编码相对位置。
当我们试图理解这些句子时，这个单词是这篇博文的第 2149 个单词重要吗？还是我们关心它与周围单词的关系？一个单词的绝对位置对其意义来说...……更多
2024-11-28 09:59:00中实,编码,工程师,位置,最好,工程
更多关于科技的资讯：
快科技4月12日消息，近日，vivo公司获得了一项智能戒指专利，通过传感器能够自动寻找到最佳的动脉监测点。专利文件显示
2025-04-12 18:20:00
快科技4月12日消息，有博主发视频分享了REDMI K80的一秒碰传功能，仅需将K80碰一碰REDMI Book触控板
2025-04-12 18:50:00
快科技4月12日消息，“2025年中华鲟增殖放流活动”今天在宜昌、荆州两地同步举行，超22万尾子二代中华鲟放归长江。该活动由三峡集团联合湖北省农业农村厅举办
2025-04-12 18:50:00
快科技4月12日消息，东方甄选今日发布公告称，即日起正式启动“外贸优品入驻”专项行动，让更多优质外贸产品走进直播间，服务国内消费者
2025-04-12 18:50:00
本文转自：人民网-江西频道赣州市定南县的一家新材料有限公司智能制造车间内，机器人手臂在来回循环作业，工人忙着加工光伏玻璃面板
2025-04-12 18:56:00
在人工智能技术加速革新、数字经济与实体经济深度融合的背景下，4月11日，山西转型综改示范区入区企业山西数据流量谷发布全省第一家AI应用服务平台
2025-04-12 19:11:00
快科技4月12日消息，针对美团核心本地商业CEO王莆中的吐槽，刘强东也是第一时间回应。王莆中在社交媒体上发文，谈到京东入局外卖赛道一事
2025-04-12 19:20:00
齐鲁晚报·齐鲁壹点记者 张頔 孙佳琪 尹睿在全球贸易形势风云变幻的当下，“出口转内销”正成为我国经济领域的一个关键议题
2025-04-12 19:43:00
快科技4月12日消息，荣耀GT系列即将迎来一款新款平板，从曝光的信息来看，这款平板在外观设计上延续了荣耀GT系列风格。据悉
2025-04-12 19:50:00
快科技4月12日消息，理想汽车现在的上街率极高，普遍是理想L系和ONE车型，车身又大又宽，但你见过理想首款车型吗？车身尺寸MINI到可能出乎你的意料
2025-04-12 19:50:00
据生态环境部《中国噪声污染防治报告(2024)》显示，2023年全国受理的噪声投诉举报案件约570.6万件，比上年增加120
2025-04-12 20:04:00
正值广义相对论诞生110周年之际，《张朝阳的物理课》来到科普基地北京天文馆，讲解光线偏折角这一广义相对论重要的实验验证
2025-04-12 20:11:00
快科技4月12日消息，vivo旗下旗舰平板vivo Pad5 Pro（型号PA2573）现身GeekBench跑分库，以单核2721分
2025-04-12 20:20:00
快科技4月12日消息，酷狗音乐与联发科合作，正式发布蝰蛇音质AI超分音频引擎。官方介绍称，蝰蛇音质的创新之处在于构建了"物理重建+轻量计算"的双引擎架构
2025-04-12 20:50:00
快科技4月12日消息，广汽集团今日晚间举办“2025广汽科技日 暨昊铂HL上市发布会”。会上，广汽介绍，虽然当前智驾功能可大幅降低事故率
2025-04-12 20:50:00