- 我的订阅
- 科技
我们正处于一个信息大暴发的时代，每天都能产生数以百万计的新闻资讯！
虽然有大数据推荐，但面对海量数据，通过我们的调研发现，在一个小时的时间里，您通常无法真正有效地获取您感兴趣的资讯！
头条新闻资讯订阅，旨在帮助您收集感兴趣的资讯内容，并且在第一时间通知到您。可以有效节约您获取资讯的时间，避免错过一些关键信息。
中国电信进一步开源12B星辰大模型
本文转自：德宏团结报
性能提升30%！
中国电信进一步开源12B星辰大模型
本报讯 近日，中国电信开源12B参数规模星辰语义大模型TeleChat-12B，相较1月开源7B版本，内容、性能和应用等方面整体效果提升30%，其中，多轮推理、安全问题等领域提升超40%。在C-eval、MMLU、AGIEVAL等国际权威榜单上，排名处于国内同级别参数开源模型的前列，进一步促进大模型开源生态繁荣，助力AI产业加速高质量发展。另悉，中国电信将于年内开源千亿级参数大模型。
中国电信人工智能研究院坚持自研自主，加快研发创新，不断优化底层模型结构，解除Word Embedding与lmhead共享参数，有效提升模型稳定性和训练效果，并基于精细化的CheckPoint效果验证，进行动态的数据配比优化调整，大幅提升模型训练效果。
海量高质量数据是保证大模型效果的基础，TeleChat-12B将7B版本1.5T训练数据提升至3T，优化数据清洗、标注策略，持续构建专项任务SFT（监督微调）数据，优化数据构建规范，大大提升数据质量。同时，基于电信星辰大模型用户真实回流数据，优化奖励模型和强化学习模型，有效提升模型问答效果。
中国电信人工智能研究院通过更彻底地开源，推动大模型技术进步和大模型国产化进程。据了解，此次开源可提供基础模型以及基于相应版本的对话模型、不仅支持传统的全量参数更新还支持 LoRA 等只更新部分参数的高效微调方法、支持Deepspeed微调、支持int8、int4量化和国产芯片训练推理，推动大模型国产化进程。
加速探索创新的同时，星辰大模型也在深入推动人工智能与各行各业的融合，积极探索新兴的应用场景。星辰语义大模型已应用于行文写作、代码编程、网络故障分析以及经营分析等场景。以行文写作为例，其平均生成字数超过1500字，有效采纳率达到85.7%。在对外企事业单位客户的业务中，星辰语义大模型支持企业经营分析、政务公开咨询、民生诉求接待等场景，可覆盖95%的实际业务场景，多轮理解准确率达到90%。除传统行业应用场景，星辰大模型还积极探索前沿领域应用，解决无人机编排投入多、开发量大的问题，实现无人机智能编排轻量化建设。
目前，星辰大模型已广泛应用落地，赋能千行百业转型升级。客服大模型在全国试点上线18个服务场景，充分赋能智慧客服和数字人，在激活十亿级的日志、百亿级的网络参数等海量数据资产的基础上，进一步深化智能化运营。 （中国电信德宏分公司）
以上内容为资讯信息快照，由td.fyun.cc爬虫进行采集并收录，本站未对信息做任何修改，信息内容不代表本站立场。
快照生成时间：2024-04-28 14:45:13
本站信息快照查询为非营利公共服务，如有侵权请联系我们进行删除。
信息原文地址：
