我们正处于一个信息大暴发的时代,每天都能产生数以百万计的新闻资讯!
虽然有大数据推荐,但面对海量数据,通过我们的调研发现,在一个小时的时间里,您通常无法真正有效地获取您感兴趣的资讯!
头条新闻资讯订阅,旨在帮助您收集感兴趣的资讯内容,并且在第一时间通知到您。可以有效节约您获取资讯的时间,避免错过一些关键信息。
6月10日消息,在“2023北京智源大会”上,北京智源人工智能研究院发布悟道3.0大模型系列,包含悟道・天鹰(Aquila)语言大模型系列、“天秤(FlagEval)”大语言评测体系及开放平台以及悟道・视界视觉大模型系列。
附详细内容:
悟道・天鹰Aquila语言大模型是第一个中英文双语大模型,支持商用、符合数据合规要求,在中英高质量合规的语料数据库基础上从零开始训练。这次发布了该系列模型中的 7B、33B和AquilaChat对话模型,即70亿参数、330亿参数的基础模型,AquilaCode文本代码生成模型。
7B、33B在技术上继承了GPT-3、LLaMA等的架构设计优点,替换了一批更高效的底层算子实现、重新设计实现了中英双语的tokenizer,升级了BMTrain并行训练方法,在Aquila的训练过程中实现了比Magtron+DeepSpeedZeRO-2将近8倍的训练效率。
AquilaCode-7B代码模型,是基于Aquila-7B基础模式的代码模型,它也是7B(70亿参数),用小数据集、小参数量实现了高性能,支持中英双语。
大语言模型评测体系“天秤”在能力、任务、指标三个维度上建立了全方位的评测体系,包括30多种能力,加上5种任务,再乘以4大类的指标,总共差不多600维的评测体系。目前天秤开源大模型评测体系已经面向公众开放注册申请。在硬件方面支持英伟达、华为的昇腾、寒武纪、昆仑芯等多种芯片架构,以及PyTorch等多种深度学习框架。
视觉大模型方面,智源大会公布了在多模态序列中补全一切的多模态大模型Emu、最强十亿级视觉基础模型EVA、性能最强开源CLIP模型EVA-CLIP、首创了上下文图像学习技术路径的通用视觉模型Painter、分割一切的视界通用分割模型、以及首个零样本视频编辑方法vid2vid-zero等成果。
以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。
快照生成时间:2023-06-10 23:45:06
本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。
信息原文地址: