• 我的订阅
  • 头条热搜
openai发布多语言大规模多任务语言理解
...23日)发布博文,报道称OpenAI在HuggingFace上发布了多语言大规模多任务语言理解(MMMLU)数据集。背景随着语言模型日益强大,评估其在不同语言、认知和文化背景下的能力已成为当务之急。OpenAI决定推出MMMLU数据集,通过提供强...……更多
迈向多语言医疗大模型:大规模预训练语料,开源模型与全面基准测试
... MMedC 上进⼀步预训练使模型性能相⽐于基线显著提升。大规模多语医疗语料(MMedC)构建在构建数据集方面,研究团队收集了一份多语言医疗语料库,命名为 MMedC。该数据集包含 255 亿 tokens,其内容来自于四个来源:1. 通过启发...……更多
AI翻译界杀手诞生!阿里国际翻译大模型吊打谷歌和GPT-4
...种识别、多维度数据质量评估,由此,就获得了高质量、大规模多语言数据。与此同时,通过利用多语言MoE、参数扩展方法,从而保证主导语言(如中英)性能不下降的情况下,提升了其他语种的性能。微调阶段,基于多语言大...……更多
多样任务真实数据,大模型在线购物基准Shopping MMLU开源
...于“亮剑”——联合香港科技大学、圣母大学构建了一个大规模、多任务评测基准Shopping MMLU,用以评估大语言模型在在线购物领域的能力与潜力。一直以来,想要完整建模在线购物相当复杂,主要痛点是:多任务性:在线购物...……更多
最新美国国家人工智能科学院院士介绍
...来自牛津大学,专注于机器学习和数据挖掘,尤其在处理大规模数据集方面取得了显著成果。 SophiaWang,来自哈佛大学,致力于自然语言处理与机器翻译的研究,提高了多语言之间的转换准确率。EthanLee,来自加州大学圣地亚哥...……更多
o1核心作者分享:激励AI自我学习,比试图教会AI每一项任务更重要
...以下一个token预测为例,说明了这种弱激励结构如何通过大规模多任务学习,鼓励模型学习解决数万亿个任务的通用技能,而不是单独解决每个任务。他观察到:如果尝试以尽可能少的努力解决数十个任务,那么单独模式识别每...……更多
讯飞听见,中关村论坛年会的“五届元老”非它莫属
...论坛、第45届IAA世界广告大会、2023金融街论坛年会、日本大规模人工智能科技公司展会“AI EXPO TOKYO”、2023世界制造业大会、第31届世界大学生运动会、世界人工智能大会、2023全球人工智能技术大会、澳门BEYOND国际创新博览会等...……更多
指令跟随大比拼!Meta发布多轮多语言基准Multi-IF:覆盖8种语言,超4500种任务
...、4501个三轮对话任务,全面揭示了当前LLM在复杂多轮、多语言场景中的挑战。所有模型在多轮对话中表现显著衰减,表现最佳的o1-preview模型在三轮对话的准确率从87.7%下降到70.7%;在非拉丁文字语言上,所有模型的表现显著弱于...……更多
跨模态大升级!少量数据高效微调,LLM教会CLIP玩转复杂文本
...文本对齐能力,推动了视觉基础模型的发展。CLIP 通过对大规模图文对的对比学习,将视觉与语言信号嵌入到同一特征空间中,受到了广泛应用。然而,CLIP 的文本处理能力被广为诟病,难以充分理解长文本和复杂的知识表达。...……更多
阿里云通义千问 Qwen2-VL 第二代视觉语言模型开源
...旋转位置嵌入只能捕捉一维序列的位置信息,M-ROPE 使得大规模语言模型能够同时捕捉和整合一维文本序列、二维视觉图像以及三维视频的位置信息,赋予了语言模型强大的多模态处理和推理能力,能让模型更好地理解和建模复...……更多
AI大模型行业报告:大模型发展迈入爆发期,开启AI新纪元(附下载)
...mer为技术基座1.1 大模型“大力出奇迹”的背后:Scaling Law大规模语言模型(Large Language Models,LLM)泛指具有超大规模参数或者经过超大规模数据训练所得到的语言模型。与传统语言模型相比,大语言模型的构建过程涉及到更为复...……更多
刚刚,Llama 3.2 来了!支持图像推理,还有可在手机上运行的版本
...文本模型开始,首先,添加图像适应器和编码器,然后在大规模有噪声的成对 (图像,文本) 数据上进行预训练。接下来,在中等规模的高质量域内和经过知识增强的 (图像,文本) 对数据上进行训练。在后训练阶段,再使用与文...……更多
Meta首款多模态Llama 3.2开源!1B羊驼宝宝,跑在手机上了
...预训练的Llama 3.1文本模型添加图像适配器和编码器,并在大规模噪声图像-文本对数据上进行预训练。然后,在中等规模的高质量领域内和知识增强的图像-文本对数据上,再次进行训练。 接着,在后训练阶段采用与文本模型类...……更多
清华提出时间序列大模型:面向通用时序分析的生成式Transformer
...于起步阶段。近期,清华大学的研究团队基于Transformer在大规模时间序列上进行生成式预训练,获得了任务通用的时序分析模型,展现出大模型特有的泛化性与可扩展性时间序列提供了数据随时间变化的视角,对于理解复杂系统...……更多
阿里CEO吴泳铭:生成式AI让世界有了一个统一的语言——Token
...然在理论和实验室环境中展现了巨大的潜力,但将其推向大规模商用并非易事。一个显著的挑战就是其高昂的计算和处理成本。Token的处理,涉及海量的数据分割、编码、解码以及跨模态的信息融合。这些操作需要强大的计算能...……更多
综合RLHF、DPO、KTO优势,统一对齐框架UNA来了
...专注于 LLM Alignment。3. 黄灿:厦门大学数学系副教授随着大规模语言模型的快速发展,如 GPT、Claude 等,LLM 通过预训练海量的文本数据展现了惊人的语言生成能力。然而,即便如此,LLM 仍然存在生成不当或偏离预期的结果。这种...……更多
...、音频和编程代码,具备更强的理解和推理能力,还在“大规模多任务语言理解”测试中首次超越人类专家。谷歌公司称,“双子座”将推出三种版本:Ultra版本功能最强大,适用于高度复杂的任务,预计2024年初发布;Nano版本...……更多
...企业客户开放。据介绍,“双子座”Ultra版本是首个在“大规模多任务语言理解”(MMLU)领域超越人类专家的模型。“大规模多任务语言理解”结合了数学、物理、历史、法律、医学和伦理学等57个学科来测试人工智能掌握知识...……更多
AI识别方言困难!专家探索用算法度量方言差距,提议构建统一框架
...方言识别准确率。方言底层逻辑+大模型今年5月,Meta推出大规模多语言语音 (MMS) 模型,将文本转语音和语音转文本技术从大约100种语言扩展到1100多种,还可以识别4000多种口头语言。在国内,抖音上线了地方方言自动翻译功...……更多
共赢生成式AI时代
...模型获得更准确的回答。最后一种是微调(FineTuning),指在大规模预训练的基础上,使用与目标任务相关的数据进行进一步训练。通过微调,企业可以把通用模型与部分业务数据相结合,让大语言模型快速获得对业务的理解。微调的门...……更多
影视译制:不仅是语言翻译,更是文化诠释
...足受众的消费需求,为填补电视台播出的时间空缺,中国大规模引进影视作品,影视译制迎来发展黄金期。《血疑》引发全民追看,主演登上《大众电影》的杂志封面。《追捕》在中国观影人次数以亿计,有观众在电影院看了几...……更多
百万鲁棒数据训练,3D场景大语言模型新SOTA!IIT等发布Robin3D
...元导读】Robin3D通过鲁棒指令数据生成引擎(RIG)生成的大规模数据进行训练,以提高模型在3D场景理解中的鲁棒性和泛化能力,在多个3D多模态学习基准测试中取得了优异的性能,超越了以往的方法,且无需针对特定任务的微调...……更多
...公司等近日宣布,利用超级计算机“富岳”,他们开发的大规模语言模型“Fugaku-LLM”正式发布。“Fugaku-LLM”是首个完全由日本国产技术构建的AI语言模型,其在处理日语及相关文化内容上表现卓越。模型特别擅长基于日语敬语...……更多
终于来了!OpenAI开放GPT-4o高级语音,还用中文说「对不起」
...了上新高级语音模式,近日,OpenAI 还发布了一个多语言大规模多任务语言理解 (Multilingual Massive Multitask Language Understanding,MMMLU)数据集,测试集提供了 14 种语言,包括阿拉伯语,德语,西班牙语等,涵盖 57 个不同类别的……更多
CMU&清华:让LLM自己合成数据来学习,特定任务性能同样大幅提升
...本科毕业生赵晨阳,卡内基梅隆大学硕士生贾雪莹。虽然大规模语言模型(LLM)在许多自然语言处理任务中表现优异,但在具体任务中的效果却不尽如人意。为了提升模型在特定自然语言任务上的表现,现有的方法主要依赖于高...……更多
谷歌推出其最先进AI模型Gemini,希望击败GPT-4
...间或使处理器过热。据介绍,Gemini Ultra是第一个在MMLU(大规模多任务语言理解)方面超越人类专家的模型,该模型综合使用数学、物理、历史、法律、医学和伦理学等57个科目来测试世界知识和解决问题的能力,谷歌在一篇博客...……更多
通义千问系列AI开源模型升至Qwen2:5个尺寸,最高 128K tokens
...和显存占用降低的优势。 模型评测相比 Qwen1.5,Qwen2 在大规模模型实现了非常大幅度的效果提升。我们对 Qwen2-72B 进行了全方位的评测。在针对预训练语言模型的评估中,对比当前最优的开源模型,Qwen2-72B 在包括自然语言理解...……更多
87.8%准确率赶超GPT-4o登顶!谷歌DeepMind发布自动评估模型FLAMe
...论文地址:https://arxiv.org/abs/2407.10817模型本身在经历多轮大规模指令任务调整后,可以遵循一套新的指令,使它们适合用作模型输出的自动评估器。一方面,为了使LLM自动评分更加合理、准确并与人类偏好保持一致,对人类判断...……更多
GPT-4最强对手出现!Claude-3 AI模型发布
...PT(GenerativePre-trainedTransformer)技术的大型语言模型,通过在大规模文本数据上的预训练,学会了自然语言理解和生成的能力。亚马逊于今日宣布使用Claude3来优化其商业逻辑 该系列包含三款各具特色的型号:Claude3Haiku、Claude3Sonnet以……更多
浪潮AI 人工智能“小源” 破“杀猪盘”诈骗套路
日前,由浪潮AI研究院研发的大规模中文语言模型“源1.0”在某次反诈行动中发挥出了出色的实效。期间,在“源1.0”的基础上,开发者开发了一个能够无障碍进行微信聊天的人工智能“小源”,并在与骗子的真实对话场景中进...……更多
更多关于科技的资讯:
机遇时空X-META全感VR乐园江苏首店落户玄武新年新玩法,文旅场景添“智慧”南报网讯(通讯员张嘉欣记者邓露洁)戴上VR头显
2025-01-06 07:42:00
对标iPhone 17 Air!曝三星Galaxy S25 Slim厚度仅6.5mm
快科技1月6日消息,国际大厂苹果、三星今年都盯上了轻薄赛道,苹果已经几乎实锤将推出iPhone 17 Air,厚度仅6
2025-01-06 07:46:00
广汽丰田2024年销量下降近15% 2025年要进击智电新头部
快科技1月6日消息,广汽丰田2024全年终端销量77.01万辆,相较2023年的90.1万辆,下跌了14.5%。广汽丰田表示
2025-01-06 07:46:00
机车圈男博主“波哥”出车祸身亡引热议:多名机车网红车祸去世 为流量值得吗
1月6日消息,近日,网传消息称,著名机车圈博主“波哥”疑似出车祸死亡,波哥被称为“龙泉山车神”。据知情人士称,波哥2号下午在龙泉山和逆行的渣土车相撞
2025-01-06 07:46:00
喝酒存在引发癌症的风险!美国:呼吁给酒精饮品贴上致癌标签
1月6日消息,据国外媒体报道称,美国卫生局局长维韦克·穆尔蒂(Vivek Murthy)表示,酒精类饮品应该张贴警示标签
2025-01-06 08:16:00
19.9元的电影票回来了!两部电影带头降价至20元以内
据报道,电影《“骗骗”喜欢你》和《火锅艺术家》近日宣布了调整后的结算标准,两部影片的数字2D版本现在统一定价为19.9元
2025-01-06 08:16:00
高开低走!曝特斯拉Cybertruck不及预期:年交付不足5万辆
快科技1月6日消息,特斯拉Cybertruck的交付量远未达到预期。据外媒报道,四季度交付量可能仅为9000至12000辆
2025-01-06 08:16:00
4盘位NAS极摩客G9上市:超MINI双系统
快科技1月6日消息,4盘位NAS极摩客G9上市,采用双系统设计。据介绍,新款NAS搭载英特尔N150处理器,4核心4线程
2025-01-06 08:16:00
厦门网讯(厦门日报记者 林钦圣)近日,厦门地铁数字纪念票获两项全国性行业权威奖。记者从厦门轨道集团获悉,厦门地铁的“基于区块链技术的地铁数字纪念票”项目
2025-01-06 08:35:00
不惜成本打造!荣耀GT Pro用上骁龙8至尊版:Q2登场
快科技1月6日消息,据爆料,荣耀GT Pro机型将于Q2发布,测试用了骁龙8至尊版,性能大幅提升。另外,之前爆料还提到该机将采用1
2025-01-06 08:46:00
本文转自:人民日报海外版外媒关注中国“两新”政策显效发力以旧换新,“真金白银”惠企惠民(国际论道)本报记者 林子涵中国部署推进新一轮大规模设备更新和消费品以旧换新
2025-01-06 08:51:00
本文转自:人民网-江西频道近日,探月与航天工程中心组织召开了第八次月球科研样品借用申请评审会。经月球样品专家委员会评审
2025-01-06 08:52:00
零跑向车主扎出“新年第一刺”:刚买新车就降1.5万 OTA区别对待
1月6日消息,2025年开年,零跑汽车宣布最高降价1.5万元。零跑车主们不乐意了,他们中有人刚提车一周,有人甚至刚刚下定
2025-01-06 09:16:00
强到飞起!小米一大波新品曝光:自研芯片、平板和YU7 价格最贵超40万
快科技1月6日消息,现在的小米真的是强到飞机,手机、汽车都是卖到爆,而接下来他们还有一大波新品来袭。据最新消息显示,接下来小米可能会发布一款搭载OLED屏的平板
2025-01-06 09:16:00
运力是“猎鹰9”两倍!蓝色起源“新格伦”重型运载火箭即将首飞
快科技1月6日消息,据报道,全球科技巨头亚马逊创始人贝索斯旗下的商业航天公司——蓝色起源公司宣布,“新格伦”重型运载火箭即将在最近几天内首飞
2025-01-06 09:16:00