• 我的订阅
  • 头条热搜
infini-attention:谷歌大内存机制
谷歌大改Transformer,“无限”长度上下文来了。现在,1B大模型上下文长度可扩展到1M(100万token,大约相当于10部小说),并能完成Passkey检索任务。8B大模型在500K上下文长度的书籍摘要任务中,拿下最新SOTA。这就是谷歌最新提...……更多
AI 胡说八道怎么办?牛津大学开发了一种“测谎”方法
...是合理的。(谁说是 Python?我 C++第一个不服!!)2忽略上下文和常识语义熵主要基于统计和概率计算,可能忽略了上下文和常识的影响。在一些需要综合上下文和常识来判断的问题中,语义熵可能无法提供准确的可靠性评估。...……更多
Kimi爆火出圈,国产大模型首次超越海外!
2024年3月18日,国产AI大模型Kimi将上下文无损输入长度提升至200万字,成为国内大模型首次在部分能力上超越海外主流产品的里程碑。上下文输入长度的增加能够帮助模型更好学习文本知识,从而更有针对性得与用户互动。在长...……更多
击败GPT-4o的开源模型如何炼成?关于Llama 3.1 405B都写在论文里
...之后,Llama 3.1 终于在昨夜由官方正式发布了。Llama 3.1 将上下文长度扩展到了 128K,拥有 8B、70B 和 405B 三个版本,再次以一已之力抬高了大模型赛道的竞争标准。对 AI 社区来说,Llama 3.1 405B 最重要的意义是刷新了开源基础模型的...……更多
OpenAI史诗级更新!最强大模型炸场,128K上下文、价格暴降2/3
...大方面更新重点值得关注和思考。1、GPT-4 Turbo:支持128k上下文,相当于300页文档,输入价格大降2/3,速率限制翻倍,知识更新到2023年4月,改进指令跟随和JSON Mode,更新多个函数调用能力。这意味着比GPT-4更强、更便宜、开发成...……更多
GTC对话黄仁勋:我眼中的GPU,和别人有很大差别
...不是基于检索的。当然,这个生成过程必须是智能的、与上下文相关的。我相信,未来人们电脑上的几乎每一个像素、每一次交互都将通过生成过程产生,我相信 Sam 也这么认为。希望通过 Blackwell 新一代架构能为生成式 AI 这个...……更多
...项目总成本为2.7亿元。Kimi智能助手宣布支持 200 万字无损上下文36氪获悉,通用人工智能创业公司“月之暗面”(Moonshot AI)宣布在大模型长上下文窗口技术上取得新的突破,Kimi智能助手已支持200万字超长无损上下文,并于即日...……更多
智能产业探新记丨AI赋能,大模型的下一个“风口”在哪?
...的祝福语;给出要求,可以用C语言快速写出程序;根据上下文,还能帮助创作者润色文章……正在天津召开的2024世界智能产业博览会上,科大讯飞展位上“多才多艺”的“智能助手”吸引了不少观众驻足体验。“这是我们研发...……更多
零样本即可时空预测!港大、华南理工等发布时空大模型UrbanGPT | KDD 2024
...即整合时空依赖编码器,以提升大型语言模型在捕捉时空上下文中的时间序列依赖性的能力。具体来说,我们设计的时空编码器由两个核心组件构成:一个是门控扩散卷积层,另一个是多层次关联注入层。上式 为初始化时空嵌...……更多
国产大模型加速落地,争夺“中国版ChatGPT”心智定位
...答、对话、写作、翻译等功能,后者则可以完成处理200K上下文、多文档阅读理解,以及超长知识库构建等任务。 今年3月6日,零一万物官微宣布开源Yi-9B模型。据介绍,Yi-9B是目前Yi系列模型中代码和数学能力最强的模型,实际...……更多
开源社区分水岭:Meta大模型Llama 3发布,参数最高或达4000亿
...ama 3已经开放了80亿(8B)和700亿(70B)两个小参数版本,上下文窗口为8k。Meta表示,通过使用更高质量的训练数据和指令微调,Llama 3比前代Llama 2有了“显著提升”。未来,Meta将推出Llama 3的更大参数版本,其将拥有超过4000亿参...……更多
OpenAI举办“AI春晚”;李开复大模型破纪录 | 图灵周报
...的Baichuan2-192K大模型之后,李开复的Yi系列模型再次刷新上下文窗口长度纪录——参数量达340亿的Yi-34B,可支持200K超长上下文窗口,可处理约40万汉字超长文本输入,是目前全球最长的上下文窗口。目前,零一万物估值超过10亿美...……更多
GPT-4o不会数r,被外国小哥原地逼疯! 谷歌论文揭秘Transformer「数不到n」
...两个字母。在多次请求后,你都没有做出任何澄清或说明上下文,我无法继续进行富有成效的讨论了。如果你有真正的问题或希望解释你的观点,我可以提供帮助。否则,我们可能需要换一个话题最后,小哥承认,自己的prompt是...……更多
谷歌pixel8系列手机ai功能入侵
...话与您不想要的电话分开。很快,CallScreen还将为您生成上下文回复建议,快速回应简单电话,例如约定确认,而无需接听电话。」另外,Pixel8Pro的背面还新增了一个温度传感器,可以扫描物体的温度,据称在做饭时,可以用它...……更多
联汇科技发布最新智能体应用——第二代多模态智能体OmAgent
...实现了20倍以上的感知速度提升;OmChat V2则支持高达512K的上下文长度,能够处视频、图、文复杂的混合输入,具有时序关系判断和多图关系理解能力。Om多模态智能体全新产品系列——空间运营智能体、知识服务智能体。空间运...……更多
2024WAIC热议大模型助力产业新趋势,可信应用成焦点
...支持音、视、图、文等模态,达到业界一流水平,无论是上下文生成还是上下文理解,都能展现出亮眼的效果。比如,在输入狗吠声后,蚂蚁百灵大模型能框出并识别图片中的宠物狗。基于百灵多模态大模型在图文对话、视频理...……更多
微软宣布Team Copilot发布,年内将推出初步预览版
...此类新功能构建的Copilot现在可以利用内存和知识来获取上下文信息、推理操作和输入、根据用户反馈进行学习并在遇到不知道如何处理的情况时寻求帮助,从而独立管理复杂、长期运行的业务流程。AzureAIStudio现已支持提供GPT-4oA...……更多
智谱AI新一代基座大模型GLM-4在司南评测中跻身前列,位居国内第一
...性能相比上一代大幅提升,逼近GPT-4。它可以支持更长的上下文,具备更强的多模态能力。同时,它的推理速度更快,支持更高的并发,大大降低推理成本。除此之外,GLM-4大幅提升了智能体能力,GLM-4 All Tools 实现自主根据用户...……更多
AI“大姨”现场刁难智能客服!直击一群AI打PK赛,真能落地的那种
...个满足现在用户需求的智能客服。能理解用户问题、结合上下文给出解决办法,并且有情商、说人话、能面对各种复杂情景。而且上手门槛很低。 比如参赛选手云蝠智能,他们的主打业务是电话客服,在文本客服方面的积累不...……更多
Bengio团队提出多模态新基准,直指Claude 3.5和GPT-4o弱点
...代表包含了图像(VI)和图像中的文字(TEI)两部分作为上下文信息,模型能还原出被遮住的文字的准确率。蓝色框内表示仅包含图像中的文字(TEI)的作为上下文信息,并不包含图像(VI),模型能还原出的遮住文字的准确率...……更多
OpenCity大模型预测交通路况,零样本下表现出色,来自港大百度
...任务中展现了广泛的适用性。模型只需快速微调就能适应上下文,可以无缝部署在各种场景中。 可扩展性:OpenCity展示了有希望的缩放定律,表明该模型有潜力在最小的额外训练或微调需求下有效地扩展和适应新的、以前未见过...……更多
黄仁勋万字答问实录:AI的下一个浪潮是什么?
...的而不是基于检索的,但这种生成必须是智能的,必须与上下文相关,等等。我们相信,我知道他也相信这一点,几乎每个人电脑上的每个像素,每次你与计算机互动时,都将由生成式芯片生成。而今天的生成式芯片来自英伟达...……更多
上交大推出“可进化游戏引擎”!虚拟世界演化无需预设
...增内容。他们还强调,仅对于代理模型来说,增量预测和上下文学习、RAG是相交的概念。但增量预测是对于整个Delta-Engine而言的概念,它和基座引擎的设计密切相关。DIY专属宝可梦基于Delta-Engine,研究人员们打造了一款类虚拟世...……更多
AI“明星”选手巅峰对决!记者实测最新谷歌Gemini与GPT-4o
...度快了,价格也下降了。谷歌Gemini系列以其标志性的超大上下文窗口出名,此前已拥有Ultra、Pro和Nano三种规格,各适配不同规模与需求的应用场景。本次发布会宣布,迭代后的Gemini 1.5 Pro 的上下文长度从原有的100万tokens(语句单...……更多
马斯克 xAI 推出 Grok-1.5 大语言模型
...Grok-1.5 大语言模型。Grok-1.5 具有改进的推理能力和 128k 的上下文长度,其中最显著的改进之一是其在编码和数学相关任务中的表现。Grok-1.5 将在未来几天内在 平台上向早期测试人员和现有的 Grok 用户推出。在官方测试中,Grok-1.5...……更多
...图像生成系统使用的扩散模型。另一种是将顺序数据根据上下文拼接在一起的“转换器架构”技术,例如,大型语言模型就是使用转换器架构将单词组装成可理解的句子。不过,Sora生成的视频中仍然有很多错误,比如一个行走...……更多
谷歌推出datagemma开放权重语言模型新版本
...数据共享平台检索相关信息来进一步提高回复的质量。长上下文窗口由Gemini1.5Pro实现,确保了回答的全面性和清晰度,同时引入了表格和脚注以提供更深层次的上下文。研究团队强调这些技术如何帮助大语言模型判断何时依赖外...……更多
Kimi概念股继续暴涨!多家上市公司回应,月之暗面致歉系...
...。 此前3月18日,月之暗面宣布其AI产品Kimi,在大模型长上下文窗口技术上取得新的突破,Kimi智能助手已支持200万字超长无损上下文,并于即日起开启产品内测。据了解,月之暗面成立于2023年4月,法定代表人杨植麟毕业于清华...……更多
OpenAI没有放弃的机器人梦想
...决策速度也是一个很大的问题。”还有人会担心大模型的上下文长度限制以及“幻觉”问题,会对机器人行为产生影响。对此,刘智勇认为:“通过TokenLearner(一种视觉表征学习方法)来优化输入数据,可以解除上下文窗口限制...……更多
协同办公进入AI时代 金山办公张宁:不追求最强AI大模型,合适最重要
...技术之前,WPS只能针对单个单词进行拼写检查,无法根据上下文语境进行语句修改与润色。WPS通过Amazon Bedrock接入Anthropic Claude 3系列模型进行语义检查与文档润色。Claude基础模型拥有平均1.3秒到1.5秒的快速响应能力,可有效提升...……更多
更多关于科技的资讯:
科学认识皮肤光损伤问题,业内首份白皮书来了!
众所周知,晒黑、晒伤、光老化、光加剧性皮肤病、光致癌,是目前皮肤光损伤的主要表现。从需求端来看,消费者不仅要光防护,还要重视光损修护
2024-09-23 19:40:00
《黑神话:悟空》官方首度公开回应DLC、电影计划!一个确定、一个神秘
快科技9月23日消息,《黑神话:悟空》现已发售一个多月,众多玩家已经完成了游戏,满怀期待游戏科学能够放出《黑神话:悟空》DLC或其他方面的消息
2024-09-23 19:57:00
首发89元 荣耀亲选JOWAY 22.5W移动电源预售:USB-C双向快充
快科技9月23日消息,荣耀亲选JOWAY 22.5W移动电源今日正式开启预售,首发89元。据悉,新款移动电源兼容SCP
2024-09-23 19:57:00
“邪门”的彼岸花!竟专挑台风期开放:很多人见过却不知道
最近,接二连三的台风经过魔都,雨哗哗下个不停,给很多人的出行带来了极大的不便……正在漏水的窗户 而初秋上海,你虽被风+雨淋个透湿
2024-09-23 19:57:00
999元 ROG魔导士ACE HFX磁轴键盘上市:68键布局、双USB-C接口
快科技9月23日消息,ROG魔导士ACE HFX磁轴键盘目前已经上市开售,首发999元。据悉,新款键盘采用紧凑的68键布局
2024-09-23 19:57:00
微软开始筹划庆祝其Xbox品牌的一个重要里程碑
9月22日消息,微软已经开始筹划庆祝其Xbox品牌的一个重要里程碑——Xbox25周年。在接受《LicenseGlobal》杂志采访时
2024-09-23 20:02:00
洁碧(Waterpik)冲牙器,开启口腔护理新辉煌
在当今快节奏的生活中,人们对健康的追求愈发强烈,而口腔健康作为整体健康的关键一环,更是备受瞩目。洁碧,这个冲牙器领域的传奇品牌
2024-09-23 20:18:00
“互联网+智慧城市甄选平台”为本地生活带来新变革
在互联网的浪潮中,有这样一位领航者,他以深厚的行业积淀和敏锐的洞察力,为本地生活领域带来了一场前所未有的变革——赵崇鹏先生
2024-09-23 20:22:00
9月23日下午,稳健医疗用品股份有限公司(以下简称“稳健医疗”)发布公告称,以现金形式收购Global Resources International
2024-09-23 20:23:00
直播电商时代 亿级主播蛋蛋再次引领消费升级 带货总销售额14.42亿元
近日,快手主播杨润心(蛋蛋)宣布粉丝破亿,成为全网唯一一位粉丝破亿的直播带货女主播。9月21日,蛋蛋以一场史无前例的“破亿之战”刷新了大众对行业的期待
2024-09-23 20:24:00
安卓性能小钢炮!联想拯救者Y700搭载乾坤散热架构:VC面积比手机屏幕还大
快科技9月23日消息,全新的联想拯救者Y700已经预热许久,今天官方公布了散热规格。新一代搭载乾坤散热架构,拥有10004mm²超大VC
2024-09-23 20:27:00
热湃气凝胶纤维斩获“省长杯”铜奖,加速发展新质生产力
9月20日,山东省第五届“省长杯”工业设计大赛颁奖仪式在2024世界工业设计大会开幕式活动现场隆重举行。山东稀有科技发展有限公司(稀有高科)创新研发的“热湃®气凝胶蓄热抑菌纤维/纱线”经过历时4个月初赛
2024-09-23 20:29:00
第一届智能制造技术与产业创新发展大会在京举办
本文转自:人民网人民网北京9月23日电 (记者夏晓伦)9月22日,北京机械工业自动化研究所有限公司(以下简称“北自所”)召开第一届智能制造技术与产业创新发展大会
2024-09-23 20:34:00
五菱新能源概念车南宁发布,量产版本有望在海外市场销售
9月23日消息,上汽通用五菱即将于9月24日在广西南宁发布其首款全球概念车。 同时,发布会还将展示上汽通用五菱的东盟战略
2024-09-23 20:51:00
redminote14pro系列手机将于9月26日发布
9月23日消息,今日,红米官方正式宣布了RedmiNote14系列手机将于9月26日19:00发布。其中RedmiNote14Pro系列支持IP66+IP68+IP69
2024-09-23 20:54:00