- 我的订阅
- 头条热搜
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
...内的大模型而言，只有Minimax采用了MoE架构。二、扩容的上下文窗口意味着什么？虽然Gemini 1.5 Pro是 Gemini 1.5 系列的初代版本，但初代便表现不俗。扩大上下文窗口后的高水平性能是Gemini 1.5 Pro的一大亮点。多模态大模型卷到今日...……更多
2024-02-21 14:05:00劲敌,高产,模式,模型,上下文,处理
...价为3美元，每生成百万token为15美元，并具有20万个token的上下文窗口，约合15万个单词。现在，用户可以通过Anthropic的网页客户端和iOS应用免费试用新模型，Claude Pro和Claude Team的订阅用户将获得五倍的速率限制。此外，新模型也...……更多
2024-06-21 12:43:00劲敌,模型,智能,测试,模型,前代
...任务中展现了广泛的适用性。模型只需快速微调就能适应上下文，可以无缝部署在各种场景中。
可扩展性：OpenCity展示了有希望的缩放定律，表明该模型有潜力在最小的额外训练或微调需求下有效地扩展和适应新的、以前未见过...……更多
2024-09-02 13:34:00路况,样本,模型,交通,交通,模型
...即整合时空依赖编码器，以提升大型语言模型在捕捉时空上下文中的时间序列依赖性的能力。具体来说，我们设计的时空编码器由两个核心组件构成：一个是门控扩散卷积层，另一个是多层次关联注入层。上式 为初始化时空嵌...……更多
2024-08-01 09:40:00时空,华南,样本,理工,模型,时空
谷歌大改Transformer，“无限”长度上下文来了。现在，1B大模型上下文长度可扩展到1M（100万token，大约相当于10部小说），并能完成Passkey检索任务。8B大模型在500K上下文长度的书籍摘要任务中，拿下最新SOTA。这就是谷歌最新提...……更多
2024-04-14 02:57:00大内,机制,上下文,模型,处理,上下
现在，长上下文视觉语言模型（VLM）有了新的全栈解决方案 ——LongVILA，它集系统、模型训练与数据集开发于一体。现阶段，将模型的多模态理解与长上下文能力相结合是非常重要的，支持更多模态的基础模型可以接受更灵活...……更多
2024-08-22 09:51:00英伟,准确率,支持,视频,序列,训练
大模型的上下文长度快速增长，超长上下文解锁新应用，但推理计算代价高昂，上下文本身对于信息不会进行压缩，不能直接捕捉其中的深层知识和规律。上海人工智能实验室领军科学家林达华。过去一年，人工智能领域风起...……更多
2024-03-25 10:53:00林达,模型,之路,结构,发展,模型
...据集：LooGLE，专门用于测试和评估大语言模型（LLMs）长上下文理解能力。该数据集既能够评估LLMs对长文本的处理和检索能力，又可以评估其对文本长程依赖的建模和理解能力。结果不评不知道，一评估发现这些模型在复杂的长...……更多
2024-08-08 09:39:00基准,北大,生成,模型,文本,评估
...系统中的应用潜力概览监控功能：GenAI，特别是 LLMs，在上下文理解和预测方面显著增强了自适应系统的监控能力。LLMs 可将监控收集的非结构化数据进行结构化处理，辅助异常检测；在上下文预测方面，基于 LLM 和扩散模型的时...……更多
2024-09-27 13:42:00路线图,文献,调研,路线,现状,研究
...kens收费3美元，每百万输出Tokens收费15美元，具有200K Tokens上下文窗口。Anthropic表示，目标是每隔几个月就大幅改善智能、速度和成本之间的权衡曲线。除了开发下一代模型系列外，还正在开发新模式和功能，以支持更多企业用例...……更多
2024-06-21 11:50:00逻辑推理,推理,逻辑,视觉,方面,模型
...代表包含了图像（VI）和图像中的文字（TEI）两部分作为上下文信息，模型能还原出被遮住的文字的准确率。蓝色框内表示仅包含图像中的文字（TEI）的作为上下文信息，并不包含图像（VI），模型能还原出的遮住文字的准确率...……更多
2024-06-29 09:37:00模态,基准,弱点,团队,模型,任务
...交互体验。Kimi智能助手的核心特点和功能包括：（1）长上下文处理：Kimi能够处理长达200万字的无损上下文，这意味着它可以理解和记忆大量信息，并在此基础上进行有效的交流和任务处理。（2）能力圈：Kimi的能力圈广泛，包...……更多
2024-03-26 10:55:00生花,短剧,赛道,影视,基金,短剧
...层，相比 Mamba 可将 KV 缓存减少 32 倍。例如，在 256K 令牌上下文环境中，MixCon 仍能保持较小的 KV 缓存优势（如表 1 所示）。在吞吐量方面，处理长序列时，Conba 层计算效率更高，增加其比例可提高整体吞吐量。基本配置单位是 ...……更多
2024-10-16 13:34:00序列,架构,北大,混合,团队,性能
...款面向C端的大模型产品。早前，该公司宣布在大模型长上下文窗口技术上取得新的突破，Kimi已支持200万字超长无损上下文，并开启产品内测，该能力在不到半年内提升9倍。市场的火爆，导致Kimi服务器一度瘫痪，无法回复用户...……更多
2024-03-23 14:00:00卷上,通义,阿里,文心,下文,模型
...驱动的LLM文本生成」。RAG于2020年推出，它使用动态提示上下文，通过用户问题检索并注入LLM提示，以引导其使用检索到的内容，而不是预训练的知识。Chat LangChain是由RAG支持的、在Lang Chain文档上流行的Q/A聊天机器人。上下文学...……更多
2024-08-27 12:03:00小白,长文,千字,基础,指南,训练
...正式宣布，旗下的Kimi智能助手，已支持200万字超长无损上下文，并于即日起开启产品内测。Kimi智能助手是月之暗面（Moonshot AI）基于自研千亿参数大模型打造的对话式 AI 助手产品，在2023年10月正式发布。而月之暗面也是国内大...……更多
2024-03-21 12:36:00上下文,速成,助手,上下,对话,支持
2024年3月18日，国产AI大模型Kimi将上下文无损输入长度提升至200万字，成为国内大模型首次在部分能力上超越海外主流产品的里程碑。上下文输入长度的增加能够帮助模型更好学习文本知识，从而更有针对性得与用户互动。在长...……更多
2024-04-02 18:31:00模型,国产,模型,上下文,能力,应用
...两个目的找到了一个共同的操作。虽然框中的内容提供了上下文，指示了按钮的真实功能，但模型经常会忽略上下文的含义。（2）拒绝弹框的按钮被重写为情绪化表达。这种引导性的情绪有时可以影响甚至操纵用户决策。这种...……更多
2024-09-03 09:59:00模型,环境,智能,手机,环境,干扰
...以带来大幅的模型性能提升。同时，GPT-3论文正式提出“上下文学习”，建立了以提示学习方法为基础技术路线的任务求解范式。ChatGPT：一举成为现象级应用，引入RLHF算法改进训练数据GPT系列模型的技术演变（ChatGPT）：在GPT-3...……更多
2024-10-21 10:03:00模型,行业报告,新纪元,报告,发展,行业
...每个单词（或 token）与文本中的每个单词进行比较来理解上下文，它需要更多的计算能力和内存需求来处理不断增长的上下文窗口。但是如果不相应地扩展计算资源，模型推理速度就会变慢，超过一定长度的文本就没法处理了。...……更多
2024-08-14 09:39:00力大,架构,模型,模型,架构,训练
...为。该观点还指出，人类在解决数学问题时通常有明确的上下文，而 LLM 在处理数学问题时可能没有这样的上下文。因此，如果通过适当的提示工程，向模型明确这是一个数学考试的环境，那么它们在添加多余子句时导致的性能...……更多
2024-10-14 09:55:00数学题,推理,废话,苹果,数学,小学
...asoner是一个创新的多步推理框架，结合了大型语言模型的上下文学习和推理能力，通过程序化多步推理、模块化设计、自定义模块生成和多领域数据集评估，有效提高了复杂时间序列任务的推理能力和准确性。实验结果表明，TS-...……更多
2024-10-29 09:55:00推理,时间序列,序列,框架,难题,突破
...应用级和服务级元能力的标准定义。通过界定领域实体与上下文界限、排线模型抽象设计等实践，重新定义函证LaaS的元能力，为加速数字生态构建奠定了坚实基础。LaaS元能力函证领域分析函证处理上下文（排线模型）函证领域...……更多
2024-03-14 15:00:00顺丰,碰撞,生态,能力,数字,科技
...有效地捕获其关系。这种通过比较文本中每个token来理解上下文的方式，需要更多的计算能力和内存来处理不断增长的上下文窗口。如果资源没有相应扩展，推理速度会变慢，最终无法处理超过某个固定长度的文本。为了解决这...……更多
2024-08-14 09:43:00一鸣,霸主,模型,再次,模型,序列
...代码能力和数学能力专项的继续训练模型。全球最长200K上下文窗口Yi-34B模型将发布全球最长、可支持200K超上下文窗口(contextwindow)版本，可以处理约40万汉字超文本输入。上下文窗口是大模型综合运算能力的金指标之一，对于理...……更多
2023-11-06 15:25:00阿里,万物,模型,评测,冠军,全球
...能力为优势的大模型，Claude3 Opus版本支持了 200K Tokens 的上下文窗口，并且可以处理100万Tokens 的输入。对于许多自然语言处理任务来说，例如机器翻译、摘要生成、问答系统等，长期依赖性是一个关键挑战，因为文本的含义通常...……更多
2024-03-08 15:00:00创业者,颠覆,狠狠,创业,人工智能,人工
...，国内通用人工智能“初创明星”月之暗面宣布在大模型上下文窗口技术上取得新突破，旗下的Kimi智能助手可支持200万字超长无损上下文，并开启产品内测，随即引发市场关注和热议，并一度因过于火爆“宕机”。随后，阿里...……更多
2024-03-28 10:06:00红楼梦,长文,实测,方言,红楼,模型
...界上最好的边缘模型Ministral 3B和Ministral 8B都支持高达128k上下文（目前在vLLM上为32k）。在知识、常识、推理、函数调用、效率等方面，为低于10B参数模型设立了新标杆。而且，Ministral 8B还有配备了滑动窗口注意机制（sliding-window a...……更多
2024-10-23 09:56:00模型,边缘,革命,模型,指令,性能
...生成连贯、合理的回复，从而实现自然语言处理任务。3. 上下文理解的关键技术GPT不仅能理解用户当前的问题，还能基于前文理解问题背景。这得益于Transformer架构中的“自注意力机制（Self-attention）”。该机制使得GPT能够捕捉...……更多
2023-05-10 03:00:00一键,原理,应用,模型,用户,问题
更多关于科技的资讯：
11月14日消息，在玩家多年要求下，《魔兽世界》游戏的下一个资料片终于将迎来家宅系统（暴雪官方译名）。暴雪在今日凌晨的魔兽30周年直播活动中公布了这一消息
2024-11-15 00:54:00
11月13日消息，诺基亚当地时间周三表示，已从美国公司Rapid手中收购了全球最大的应用程序编程接口（API）中心和市场
2024-11-15 00:57:00
自从华为余承东表示，史上最强大的Mate，11月见。相关华为Mate70系列的爆料源源不断，而11月份即将过半，留给华为预热到发布的时间已经不多了
2024-11-15 01:05:00
11月13日，红魔10Pro系列正式面世。这款新机以一项前所未有的创新吸引了全球目光：它首次搭载了1.5K真全面屏，被官方誉为“悟空屏”
2024-11-15 01:07:00
11月12日，以“智领，兴时代”为主题的中兴通讯2025年度全球合作伙伴大会在深圳召开。本次大会邀请了中兴通讯全球约200家战略合作伙伴
2024-11-15 01:08:00
11月14日消息，汽车媒体carscoops昨日（11月13日）发布博文，报道称保时捷正在纽博格林测试2025款911GT3RS
2024-11-15 01:15:00
快科技11月15日消息，小米将参加广州车展，有网友问小米汽车展台有什么特别的看点？官方介绍，2024广州车展将于11月15日正式开幕
2024-11-15 01:20:00
11月14日消息，内存厂商全何昨日宣布，超频高手AKM在华擎1SPC“超频旗舰”主板Z890TaichiOCF上使用英特尔酷睿Ultra9285K处理器
2024-11-15 01:22:00
11月14日消息，动画电影《指环王：洛汗之战》已定档12月13日在北美上映，华纳兄弟电影今日确认这部新片将引入中国内地
2024-11-15 01:33:00
11月14日消息，米哈游昨日官宣，《云・绝区零》安卓端测试已开启。目前测试资格已开始陆续发放，将通过电子邮件/短信/站内信或游戏内邮件分批联系获得测试资格的玩家
2024-11-15 01:38:00
韩国媒体近日报道，比亚迪韩国官方于11月13日正式宣布，已完成针对韩国市场推出乘用车品牌的全面评估，并计划在2025年初正式进入韩国乘用车市场
2024-11-15 01:49:00
最近，朋友阿云刷到了不少“爆改老旧小厨房”的笔记，她问我，要不要趁着“以旧换新”的机会给爸妈家的厨房来一波升级。但是她也表示
2024-11-15 01:54:00
11月14日消息，在今日凌晨的魔兽30周年庆祝活动中，暴雪公布了《炉石传说》游戏的后续规划。首先，《炉石传说》将联动《星际争霸》
2024-11-15 01:55:00
11月14日消息，小米今日宣布，冬日新品米家智能蒸烤箱S130L预售开启，建议零售价1799元，新品到手价1599元。IT之家查询发现
2024-11-15 02:13:00
11月14日消息，虽然微软已于上个月推出Windows112024更新（24H2），但安装助手并不支持Arm64，所以微软现在为这部分用户提供了适用于Arm64架构的ISO镜像文件
2024-11-15 02:14:00