• 我的订阅
  • 科技

信服云EDS:助力清华大学智能产业研究院构建高性能文件存储底座

类别:科技 发布时间:2023-02-22 20:00:00 来源:砍柴网

“人工智能应用落地的‘高歌猛进’,是有人在‘负重前行’。”

王博士(化名)作为清华大学智能产业研究院自动驾驶课题组的一员,负责车路协同数据集的训练工作。

课题研究中,王博士在电脑上要处理成千上万张图片:每一张图片,道路轨迹、建筑形状都不尽相同,一张图片里可以拆分出好几个标签,这是他每天都要面对的“复杂”标注题。

“我们拿到这些文件之后,可以挖掘出很多信息,然后不断地去进行标注。既要保证标注的效率,也要保证质量,这样才能训练出更精准的AI模型。”

信服云EDS:助力清华大学智能产业研究院构建高性能文件存储底座

图片来源:清华大学智能产业研究院官网

自动驾驶,是清华大学智能产业研究院的研究课题之一。作为一所面向第四次工业革命的国际化、智能化、产业化研究机构,这里汇聚了来自全球的国际顶尖科学家、产业变革领袖和世界级研创团队。

他们站在国际科技前沿,引领中国的科技创新,探索着自动驾驶、生物计算、绿色计算等领域的未解之谜。

AI“更懂”人类的背后,是大量数据训练的结果。

时逢2022年的9月,清华大学智能产业研究院的多项科研工作都在和时间赛跑。就在这时,清华大学智能产业研究院的十多个课题组感受到了AI研究工作的“阻力”,“给图像做标注时,图片迟迟加载不出来;检索图片,系统也要卡很久。”

原来,训练AI数据集需要存储大量数据,数据量很快就达到百TB级,而传统存储阵列在庞大的数据量面前“不堪重负”,没有展示出最佳的性能、可扩展性等能力,导致科研工作者们在实际操作时遇到了卡慢问题。

面对存储性能提升的难题,信服云EDS为清华大学智能产业研究院设计了高性能文件存储方案。480TB存储空间配置完成后,有了充足的存储空间,科研工作者们可以放心地开展AI训练的工作。

一个可以尽情“驰骋”的存储底座,背后是信服云EDS“刚柔并济”的实力。

在硬件上,信服云EDS采用通用的X86服务器搭配NVMe固态硬盘的组合形式,构建存储高性能层,这使得训练集群访问数据时,可以优先经过高性能层的缓存加速,相较于传统磁盘阵列,存储性能有了大幅提升。

在软件上,信服云EDS通过自研的分布式高性能文件系统,利用小文件合并、phxkv分布式元数据库、智能预加载等自研技术,提高KB级小文件的元数据和数据处理效率,有效保障AI训练过程中访问数据的效率,并大幅缩短了科研中的AI训练时间。

对于清华大学智能产业研究院而言,选择一款存储产品首要关注的是性能。因为科研工作者在标注数据时,需要不停地读取文件和创建文件,频繁的操作中无疑会增加元数据的访问耗时,CPU算力也会受到影响,而信服云EDS让读写文件的性能彻底告别了卡慢。

信服云EDS:助力清华大学智能产业研究院构建高性能文件存储底座

其实,信服云EDS和用户的双向奔赴,不止于此:

容量与性能的同步扩展,见证千行百业的腾飞与发展。

“我们现在的容量使用率已经超过90%,但性能丝毫没有受影响。”除了提供稳定一致的性能表现,信服云EDS灵活扩展的能力,也在不断刷新用户的预期。考虑到研究院数据规模不断增长的情况,信服云EDS支持同时扩展容量和性能,这打破了传统存储架构的局限性。

信服云EDS:助力清华大学智能产业研究院构建高性能文件存储底座

在传统存储架构中,容量增长到一定程度,性能的增长不会相应增加,甚至还会出现性能下降的现象。而信服云EDS实现了容量和性能的同步扩展,在容量扩展的同时,存储性能也随之线性增长。以集群规模扩展至8节点为例,混合盘配置4KB随机读可达120万IOPS。

故障闭环处理的设计,是保障业务可靠运行的底气。

在注重高性能的同时,业务连续性和数据可靠性也不可忽视。为此,信服云EDS构建了完整的故障闭环处理框架:

在故障发生前,通过硬件亚健康预测、检测和数据多副本、纠删码等机制,帮助用户提前预防故障的发生;亚健康的可视化监控,则让用户感知硬盘健康状态,提前做好备件采购和替换准备工作。

在故障发生时,通过亚健康硬件自动隔离、智能数据修复、I/O路径自动切换等机制,自动处置问题,最大化减轻运维的压力,同时也保障了业务连续性和数据可靠性。如若发生人为误删除、恶意删除或超过冗余机制范围的故障等情况,可通过快照备份、回收站等机制快速找回数据。

这些高可靠的设计,也是用户坚定选择信服云EDS的理由之一。

截至目前,信服云EDS已经累计参与交付超过20000个客户和300+例PB级项目,在AI训练、卫星遥感、医疗影像、动漫制作、软件开发等场景获得了用户的广泛认可。

信服云EDS:助力清华大学智能产业研究院构建高性能文件存储底座

从蒸汽技术革命到信息技术革命,科技一次次改变着世界。

这一次,AI的想象力更是无限。这些面向未来交通、医疗、绿色发展的难题,也正在一步步被清华大学智能产业研究院的科学家们“拿下”:

发布全球首个真实场景车路协同数据集

研发出连续获得全球第一的自动化蛋白质结构预测平台

绿色计算5G网络智能减碳技术获得吴文俊人工智能科技进步奖

丈量寰宇,眺望星辰。在科技领航者的探索下,智能时代正以一种前所未有的清晰度呈现在我们面前。信服云EDS身处这个伟大的时代中,将集自身之所长,融用户之所需,助力科研工作者们在数据的浩瀚宇宙中,自由翱翔。返回搜狐,查看更多

责任编辑:

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-02-22 21:45:09

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

深信服重磅发布分布式存储EDS 501高性能版本!
...优、场景适应性最强的企业级存储系统。此次发布会上,清华大学智能产业研究院、上海市肺科医院、中科大洋、武汉大势智慧科技有限公司等高精尖领域的用户与头部行业服务商共同分享存储建设
2023-06-15 19:00:00
如果你的大脑可以模拟,会发生什么?
...米。以记忆为例,就与突触形态与功能的长期变化有关。清华大学集成电路学院长聘副教授高滨举了一个例子:生理学先驱巴甫洛夫每天在狗吃饭前敲响铃声,再给它食物。经过一段时间,狗只要听
2024-05-09 15:21:00
中国算力全球第二:“大力”如何出奇迹?
...)“大力出奇迹。”10月13日,中国工程院院士、CCF会士、清华大学计算机系教授郑纬民在2023世界数字经济大会暨第十三届智慧城市与智能经济博览会主论坛上表示,中国算力位居全
2023-10-13 20:58:00
卷模型技术,更要卷工程实现
...用。《开谈》圆桌AI 时代的研发新范式与开发者能力演进清华大学计算机系学士、硕士;有超过10年的新技术研发和创新管理经验。曾任四达时代传媒集团研究院首席架构师,负责设计和建设
2023-08-10 10:00:00
吴立新院士:超算与人工智能深度融合的时代已经来临
...大常委会委员、中国科学院院士吴立新中国工程院院士、清华大学计算机系教授郑纬民就如何建设国产超算基础软件生态提出四点建议:第一,加强超算基础软件研制,提升转化能力;第二,研制统
2023-08-25 16:34:00
我国计算力水平位居全球第二(大数据观察)
...产业发展。不久前,由国际数据公司(IDC)、浪潮信息、清华大学全球产业研究院联合编制的《2022—2023全球计算力指数评估报告》在北京发布。评估结果显示,2022年,中国整
2023-07-28 05:55:00
聚焦“数智创新 AI未来” :2023数据与存储峰会圆满落幕
...应用需求。”本次峰会上出现了一个新的名词:存储税。清华大学长聘教授、闽江学院院长 舒继武 清华大学长聘教授、闽江学院院长舒继武解释说:“ 存储税,就是将支持数据存储应用需求
2023-11-30 11:48:00
5年投资超1000亿,北京公布一系列AI重磅成果,北大清华百度蚂蚁微软大佬齐谈AI未来|钛媒体AGI
...京大学教授、中国科学院院士鄂维南;中国工程院院士、清华大学信息科学技术学院院长戴琼海;百度CTO王海峰;蚂蚁集团CTO何征宇;微软全球资深副总裁、Microsoft AI亚太
2024-04-28 11:00:00
月之暗面 Kimi 联合清华大学等开源大模型推理架构 Mooncake
IT之家 11 月 28 日消息,月之暗面 Kimi 和清华大学 MADSys 实验室 2024 年 6 月联合发布了 Kimi 底层的 Mooncake 推理系统设计方案
2024-11-29 09:22:00
更多关于科技的资讯:
航空公司早已按舱等售票,却在值机选座时再加一道“锁”,要求旅客付费或使用积分解锁。这道无形的锁不仅锁住了座位,更锁住了航空服务应有的公平底线
2025-09-19 12:22:00
最近中国组织人事报“快牛”勿用鞭打的话题走红网络,吸引了公众的眼球,引发无数网友点赞转发。试问,这篇组工文章究竟有何魅力
2025-09-19 12:28:00
鑫荟金行黄金点钻节启幕 国潮新品闪耀登场!
近日,鑫荟金行备受瞩目的黄金点钻节启幕,为广大珠宝爱好者带来了一场视觉与体验的双重盛宴。此次黄金点钻节不仅汇聚了海量爆款
2025-09-19 13:19:00
近日,上海恒轩健康咨询有限公司凭借其创新的体检服务和专业的健康管理解决方案,在健康咨询领域崭露头角,成为上海地区健康管理行业的关注焦点
2025-09-19 13:38:00
联舌工坊发布「五星鲜」标准:以科技与匠心重塑预制食材产业高度
2025年9月18日,上海——在预制食材行业高速发展的背景下,国内领军企业联舌工坊今日正式发布《「五星鲜」预制食材企业标准》
2025-09-19 13:39:00
山东移动文登分公司“云守护” 6家药店用上数智“安全卫士”
齐鲁晚报·齐鲁壹点客户端 李孟霏近日,山东移动威海文登分公司凭借“精准诊断+场景化演示”服务模式,成功与6家连锁药店达成合作
2025-09-19 13:19:00
厦大智慧教室迈入“无感扩声”时代教师无需佩戴麦克风,声音可清晰覆盖整个教室东南网9月19日讯 (海峡导报记者 梁静 通讯员 戴佩琪)新学期伊始
2025-09-19 10:26:00
为积极推动实现“专业化、生态化、数字化”战略远景,积极服务大局,在人工智能的浪潮中,切实推进“保险+”服务的建设,瑞众人寿河北分公司将在全省开展以“拾光美好·瑞意相伴”为主题的客户嘉年华活动
2025-09-19 10:14:00
满算力每天可产出上百万分钟视频,成本只需人工的10%宁企AI“拍”短剧,拓展“数字丝路”新蓝海□南京日报/紫金山新闻特派记者黄琳燕9月18日
2025-09-19 07:44:00
光博会上,宁企全球首发先进高光谱成像相机粉笔灰冒充面粉?“天眼”一拍现原形南报网讯(记者张安琪)“两堆白色粉末摆在眼前
2025-09-19 07:45:00
厦门网讯(厦门日报记者 刘艳)昨日,2025金砖国家新工业革命伙伴关系论坛6场平行分论坛发布6项成果。此次金砖国家新工业革命伙伴关系论坛共发布了12项成果
2025-09-18 08:20:00
一口预制菜,搅动全民心。近日,罗永浩与西贝的“预制菜之争”告一段落,但引发的消费者知情权问题,仍备受关注。罗永浩与西贝争论的焦点
2025-09-18 09:31:00
近日,国家知识产权局知识产权运用促进司在全国专利转化运用专项行动工作简报中,对山东科创旗下山东知识产权运营中心的创新实践工作给予充分肯定
2025-09-18 09:33:00
浪浪山小妖怪14亿票房背后,500元的毛绒玩具卖爆了
作者|兰杰编辑|乔芊又一个毛绒品牌正在崭露头角。近期,《浪浪山的小妖怪》收割了无数打工人的心,同时也让一个水下的品牌浮出水面
2025-09-18 17:53:00
把直播开成文化沙龙,中产迷上这“最安静”直播
没有秒杀倒计时,没有循环播放的背景音乐,更没有声嘶力竭的“3、2、1,上链接!”9月5日晚,ICICLE之禾的抖音直播间
2025-09-18 21:11:00