• 我的订阅
  • 头条热搜
openai发布多语言大规模多任务语言理解
...23日)发布博文,报道称OpenAI在HuggingFace上发布了多语言大规模多任务语言理解(MMMLU)数据集。背景随着语言模型日益强大,评估其在不同语言、认知和文化背景下的能力已成为当务之急。OpenAI决定推出MMMLU数据集,通过提供强...……更多
迈向多语言医疗大模型:大规模预训练语料,开源模型与全面基准测试
... MMedC 上进⼀步预训练使模型性能相⽐于基线显著提升。大规模多语医疗语料(MMedC)构建在构建数据集方面,研究团队收集了一份多语言医疗语料库,命名为 MMedC。该数据集包含 255 亿 tokens,其内容来自于四个来源:1. 通过启发...……更多
AI翻译界杀手诞生!阿里国际翻译大模型吊打谷歌和GPT-4
...种识别、多维度数据质量评估,由此,就获得了高质量、大规模多语言数据。与此同时,通过利用多语言MoE、参数扩展方法,从而保证主导语言(如中英)性能不下降的情况下,提升了其他语种的性能。微调阶段,基于多语言大...……更多
多样任务真实数据,大模型在线购物基准Shopping MMLU开源
...于“亮剑”——联合香港科技大学、圣母大学构建了一个大规模、多任务评测基准Shopping MMLU,用以评估大语言模型在在线购物领域的能力与潜力。一直以来,想要完整建模在线购物相当复杂,主要痛点是:多任务性:在线购物...……更多
最新美国国家人工智能科学院院士介绍
...来自牛津大学,专注于机器学习和数据挖掘,尤其在处理大规模数据集方面取得了显著成果。 SophiaWang,来自哈佛大学,致力于自然语言处理与机器翻译的研究,提高了多语言之间的转换准确率。EthanLee,来自加州大学圣地亚哥...……更多
o1核心作者分享:激励AI自我学习,比试图教会AI每一项任务更重要
...以下一个token预测为例,说明了这种弱激励结构如何通过大规模多任务学习,鼓励模型学习解决数万亿个任务的通用技能,而不是单独解决每个任务。他观察到:如果尝试以尽可能少的努力解决数十个任务,那么单独模式识别每...……更多
讯飞听见,中关村论坛年会的“五届元老”非它莫属
...论坛、第45届IAA世界广告大会、2023金融街论坛年会、日本大规模人工智能科技公司展会“AI EXPO TOKYO”、2023世界制造业大会、第31届世界大学生运动会、世界人工智能大会、2023全球人工智能技术大会、澳门BEYOND国际创新博览会等...……更多
阿里云通义千问 Qwen2-VL 第二代视觉语言模型开源
...旋转位置嵌入只能捕捉一维序列的位置信息,M-ROPE 使得大规模语言模型能够同时捕捉和整合一维文本序列、二维视觉图像以及三维视频的位置信息,赋予了语言模型强大的多模态处理和推理能力,能让模型更好地理解和建模复...……更多
AI大模型行业报告:大模型发展迈入爆发期,开启AI新纪元(附下载)
...mer为技术基座1.1 大模型“大力出奇迹”的背后:Scaling Law大规模语言模型(Large Language Models,LLM)泛指具有超大规模参数或者经过超大规模数据训练所得到的语言模型。与传统语言模型相比,大语言模型的构建过程涉及到更为复...……更多
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
...文本模型开始,首先,添加图像适应器和编码器,然后在大规模有噪声的成对 (图像,文本) 数据上进行预训练。接下来,在中等规模的高质量域内和经过知识增强的 (图像,文本) 对数据上进行训练。在后训练阶段,再使用与文...……更多
Meta首款多模态Llama 3.2开源!1B羊驼宝宝,跑在手机上了
...预训练的Llama 3.1文本模型添加图像适配器和编码器,并在大规模噪声图像-文本对数据上进行预训练。然后,在中等规模的高质量领域内和知识增强的图像-文本对数据上,再次进行训练。 接着,在后训练阶段采用与文本模型类...……更多
清华提出时间序列大模型:面向通用时序分析的生成式Transformer
...于起步阶段。近期,清华大学的研究团队基于Transformer在大规模时间序列上进行生成式预训练,获得了任务通用的时序分析模型,展现出大模型特有的泛化性与可扩展性时间序列提供了数据随时间变化的视角,对于理解复杂系统...……更多
阿里CEO吴泳铭:生成式AI让世界有了一个统一的语言——Token
...然在理论和实验室环境中展现了巨大的潜力,但将其推向大规模商用并非易事。一个显著的挑战就是其高昂的计算和处理成本。Token的处理,涉及海量的数据分割、编码、解码以及跨模态的信息融合。这些操作需要强大的计算能...……更多
综合RLHF、DPO、KTO优势,统一对齐框架UNA来了
...专注于 LLM Alignment。3. 黄灿:厦门大学数学系副教授随着大规模语言模型的快速发展,如 GPT、Claude 等,LLM 通过预训练海量的文本数据展现了惊人的语言生成能力。然而,即便如此,LLM 仍然存在生成不当或偏离预期的结果。这种...……更多
...、音频和编程代码,具备更强的理解和推理能力,还在“大规模多任务语言理解”测试中首次超越人类专家。谷歌公司称,“双子座”将推出三种版本:Ultra版本功能最强大,适用于高度复杂的任务,预计2024年初发布;Nano版本...……更多
...企业客户开放。据介绍,“双子座”Ultra版本是首个在“大规模多任务语言理解”(MMLU)领域超越人类专家的模型。“大规模多任务语言理解”结合了数学、物理、历史、法律、医学和伦理学等57个学科来测试人工智能掌握知识...……更多
AI识别方言困难!专家探索用算法度量方言差距,提议构建统一框架
...方言识别准确率。方言底层逻辑+大模型今年5月,Meta推出大规模多语言语音 (MMS) 模型,将文本转语音和语音转文本技术从大约100种语言扩展到1100多种,还可以识别4000多种口头语言。在国内,抖音上线了地方方言自动翻译功...……更多
共赢生成式AI时代
...模型获得更准确的回答。最后一种是微调(FineTuning),指在大规模预训练的基础上,使用与目标任务相关的数据进行进一步训练。通过微调,企业可以把通用模型与部分业务数据相结合,让大语言模型快速获得对业务的理解。微调的门...……更多
影视译制:不仅是语言翻译,更是文化诠释
...足受众的消费需求,为填补电视台播出的时间空缺,中国大规模引进影视作品,影视译制迎来发展黄金期。《血疑》引发全民追看,主演登上《大众电影》的杂志封面。《追捕》在中国观影人次数以亿计,有观众在电影院看了几...……更多
百万鲁棒数据训练,3D场景大语言模型新SOTA!IIT等发布Robin3D
...元导读】Robin3D通过鲁棒指令数据生成引擎(RIG)生成的大规模数据进行训练,以提高模型在3D场景理解中的鲁棒性和泛化能力,在多个3D多模态学习基准测试中取得了优异的性能,超越了以往的方法,且无需针对特定任务的微调...……更多
...公司等近日宣布,利用超级计算机“富岳”,他们开发的大规模语言模型“Fugaku-LLM”正式发布。“Fugaku-LLM”是首个完全由日本国产技术构建的AI语言模型,其在处理日语及相关文化内容上表现卓越。模型特别擅长基于日语敬语...……更多
终于来了!OpenAI开放GPT-4o高级语音,还用中文说「对不起」
...了上新高级语音模式,近日,OpenAI 还发布了一个多语言大规模多任务语言理解 (Multilingual Massive Multitask Language Understanding,MMMLU)数据集,测试集提供了 14 种语言,包括阿拉伯语,德语,西班牙语等,涵盖 57 个不同类别的……更多
CMU&清华:让LLM自己合成数据来学习,特定任务性能同样大幅提升
...本科毕业生赵晨阳,卡内基梅隆大学硕士生贾雪莹。虽然大规模语言模型(LLM)在许多自然语言处理任务中表现优异,但在具体任务中的效果却不尽如人意。为了提升模型在特定自然语言任务上的表现,现有的方法主要依赖于高...……更多
谷歌推出其最先进AI模型Gemini,希望击败GPT-4
...间或使处理器过热。据介绍,Gemini Ultra是第一个在MMLU(大规模多任务语言理解)方面超越人类专家的模型,该模型综合使用数学、物理、历史、法律、医学和伦理学等57个科目来测试世界知识和解决问题的能力,谷歌在一篇博客...……更多
通义千问系列AI开源模型升至Qwen2:5个尺寸,最高 128K tokens
...和显存占用降低的优势。 模型评测相比 Qwen1.5,Qwen2 在大规模模型实现了非常大幅度的效果提升。我们对 Qwen2-72B 进行了全方位的评测。在针对预训练语言模型的评估中,对比当前最优的开源模型,Qwen2-72B 在包括自然语言理解...……更多
87.8%准确率赶超GPT-4o登顶!谷歌DeepMind发布自动评估模型FLAMe
...论文地址:https://arxiv.org/abs/2407.10817模型本身在经历多轮大规模指令任务调整后,可以遵循一套新的指令,使它们适合用作模型输出的自动评估器。一方面,为了使LLM自动评分更加合理、准确并与人类偏好保持一致,对人类判断...……更多
GPT-4最强对手出现!Claude-3 AI模型发布
...PT(GenerativePre-trainedTransformer)技术的大型语言模型,通过在大规模文本数据上的预训练,学会了自然语言理解和生成的能力。亚马逊于今日宣布使用Claude3来优化其商业逻辑 该系列包含三款各具特色的型号:Claude3Haiku、Claude3Sonnet以……更多
浪潮AI 人工智能“小源” 破“杀猪盘”诈骗套路
日前,由浪潮AI研究院研发的大规模中文语言模型“源1.0”在某次反诈行动中发挥出了出色的实效。期间,在“源1.0”的基础上,开发者开发了一个能够无障碍进行微信聊天的人工智能“小源”,并在与骗子的真实对话场景中进...……更多
击败GPT-4o的开源模型如何炼成?关于Llama 3.1 405B都写在论文里
... 和 8B 模型这些较小模型的质量。3、为了支持 405B 模型的大规模生产推理,Meta 将 16 位 (BF16) 量化为 8 位 (FP8),从而降低了计算要求,并使模型能够在单个服务器节点上运行。 4、在 15.6T token(3.8x10²⁵ FLOPs)上预训练 405B 是一……更多
AI,未来也许只是一种办公软件
...统和应用增强人类工作的关键机理在于其通过深度学习和大规模训练,具备了处理复杂数据、理解自然语言和模拟人类思维过程的能力,可以在没有人类干预的情况下自动化执行任务。倚仗庞大的数据集和算力资源,LLMs能够提...……更多
更多关于科技的资讯:
跨界对话:聚焦协同、转型与创新 助力企业发展迎新机
本文转自:人民网11月21日,由人民网发起的“2024企业家大会·专题研学”在四川省泸州市古蔺县举办。来自政、产、学、研多领域嘉宾走近赤水河流域
2024-11-24 11:03:00
本文转自:人民网-北京频道第三届京西地区发展论坛举办石景山区集中发布展示人工智能大模型产业成果前三季度,石景山人工智能产业收入达792
2024-11-24 09:33:00
vivo老手机淘汰!OriginOS5更新,支持微信备份
嘿,VIVO手机的小伙伴们注意啦!最近originOS5更新了一个超实用的新功能——vivo的云服务现在支持微信云备份了
2024-11-23 22:35:00
LCD党无需再坚持!红米K80,全系2K屏揭晓
红米K80屏幕四大升级红米K80系列下周就要发布了,这个系列的屏幕一直以来都是它的强项。这次红米K80系列在屏幕上又有哪些亮点呢
2024-11-23 22:36:00
正式停售!旧款iPhone耳机兼容性或受限
苹果配件pricey一流一说到苹果,大家可能第一时间想到的是他们的手机很厉害。其实啊,除了手机,苹果的配件也是一流的,种类齐全
2024-11-23 22:36:00
荣耀300 Pro开启预订 三大唯美配色享24期免息
【CNMO科技消息】在11月21日荣耀300开启预订之后,22日,荣耀300Pro也开启了100元订金预订活动。预订页面显示
2024-11-23 22:36:00
REDMI K80系列狂暴引擎4.0有点东西 是不是太酷辣
【CNMO科技消息】REDMIK80系列发布会定档11月27日晚,近日官方也开启了预热。尤其是辣椒酱的邀请函更是直接火出了圈
2024-11-23 22:36:00
小米14T Pro月底登陆日本市场 K70U小改版
智能手机、智能手表、智能手环、真无线蓝牙耳机、扫地机器人、空气净化器、充电宝等等。11月22日,小米日本官方宣布,10月发布的小米14TPro已经正式确定上市时间
2024-11-23 22:37:00
最轻薄iPhone来了:仅6毫米厚,国人又要疯抢?
初代iPhone发布时,苹果彻底改变了手机行业,成为设计标杆。乔布斯每年更新iPhone,带来诸多创新。但库克接手后,iPhone渐显平淡
2024-11-23 22:37:00
iPhone17新机:史上最轻薄的苹果手机来了
聊聊即将登场的iPhone17新机,特别是那款备受瞩目的iPhone17Air。你们知道吗?在iPhone16系列发布前
2024-11-23 22:38:00
999元!华为发布动态血压手表,居家监测便捷实惠
华为新款血压手表发布在即最新消息,华为出了一款新手表,能监测动态血压,11月26号就要发布了,现在已经开始接受预订了。现在大家量血压通常都是用腕式或臂式的血压计
2024-11-23 22:38:00
华为Mate 70外观引争议,网友直呼设计奇特!
万众期待的华为Mate70系列终于发布了,但大家的反应却褒贬不一。有些博主直言不讳地说:“华为Mate70这外观真是绝了
2024-11-23 22:38:00
红米K80Pro独立!冲击高端,小米15还有戏吗?
红米K80Pro:全方位升级挑战高端市场大家好,今天咱们来聊聊红米K80系列,尤其是红米K80Pro。这次真的是全方位升级
2024-11-23 22:38:00
顶级一体式陶瓷+全面屏鼻祖,小米Mix4数百元成主力机首选!
陶瓷之美这台手机的外观质感我非常满意!用过多款顶级旗舰,但这台手机的感觉完全不同,精致得像艺术品。它采用一体式陶瓷机身和真全面屏设计
2024-11-23 22:38:00
华为Mate X6明日开启!样机已到门店,线上线下同步
数码博主爆料:华为MateX6折叠屏手机定于2024年11月20日开启预订!据多位信源透露,包括大名鼎鼎的博主“看山的叔叔”和权威的IT资讯平台IT之家都确认了这个消息
2024-11-23 22:38:00