NVIDIA Quantum InfiniBand 打造 AI 时代 GPU 计算的高性能存储技术

焱融科技借助 NVIDIA Quantum InfiniBand 技术推出了追光 F8000X 全闪分布式文件存储一体机, 为 HPC / AI 计算提供高效、灵活、经济的解决方案。


NVIDIA Quantum InfiniBand 打造 AI 时代 GPU 计算的高性能存储技术


InfiniBand 技术正在不断创造更高的数据吞吐量记录,目前 200Gbps 网络已经普及,400Gbps 紧随其后。同时,还可以通过 multi-path 技术将多网卡带宽性能聚合。原生支持 RDMA 技术,在保证高带宽输出的基础上,大大降低数据访问延迟,为高性能计算、人工智能、云计算、存储等众多数据密集型应用提供了强大的网络性能支撑。


焱融科技借助 NVIDIA Quantum InfiniBand 技术推出了追光 F8000X 全闪分布式文件存储一体机产品 ⸺ 通过结合 InfiniBand 技术和追光 F8000X 针对海量小文件、高并发访问等方面的优化设计,获得了超高性能的表现。同时,得益于分布式存储架构和数据智能分层功能,实现了弹性空间扩展,并有效平衡数据存储成本。


传统存储方案面临

存储空间浪费和成本上升的挑战


随着 GPT-3 技术的快速发展,焱融科技的一位高科技企业客户的 AI 训练平台突破了百亿数据规模,面临着如何保证在训练过程中,海量小文件的处理性能和大量客户端高并发下的存储并行访问能力等问题。


目前,传统存储方案普遍存在以下几个问题:



因此,造成了严重的存储空间浪费并导致成本的提升,在此情况下,该企业客户迫切希望提升模型迭代速度,并尽可能缩短结果产出周期。


NVIDIA Quantum InfiniBand

助力焱融追光F8000X 构建高性能人工智能数据平台


针对用户的需求痛点,焱融科技提出了性能与成本兼顾的解决方案 ⸺ 焱融追光 F8000X 解决方案,基于高性能分布式并行文件存储系统 YRCloudFile ,结合 NVMe SSD 、InfiniBand 高速网络,在充分释放性能的同时,实现系统随着业务需求动态增加节点数量,使得存储容量和存储性能都以线性方式增长。


NVIDIA Quantum InfiniBand 作为业内领先、性能卓越的网络平台,为 AI 、数据分析和高性能计算(HPC)应用提供高性能、高可靠,以及超低时延的网络连接能力。因此,NVIDIA Quantum InfiniBand 成为焱融追光 F8000X 的首选网络解决方案。


焱融追光 F8000X 通过 NVIDIA Quantum InfiniBand 在 GPU 计算服务器和存储设备之间构建的高带宽和低延迟数据传输网络,以满足数据密集型应用系统的网络性能要求。对于存储网络,采用双 HDR 200Gbps InfiniBand 网卡,通过 multi-path 实现网卡聚合,理论可提供高达 400Gbps 的带宽性能,并支持 RDMA 技术,保证高带宽输出的同时,大幅度降低了数据访问延迟。


NVIDIA Quantum InfiniBand 打造 AI 时代 GPU 计算的高性能存储技术

AI 训练平台存储解决方案架构图


通过追光 F8000X 所具备的海量小文件、高并发访问等特点,以及智能分层功能将冷数据自动下沉到本地对象存储,有效解决平衡数据存储成本和空间扩展的问题。


点击 “阅读原文” 下载观看解决方案全文。


NVIDIA 往期精彩内容


NVIDIA InfiniBand 赋能杜伦大学和 DiRAC 的全新超级计算机,助力人类加速了解宇宙


更多精彩仍在继续...

敬请关注

展开阅读全文

页面更新:2024-05-11

标签:技术   分布式   海量   带宽   性能   成本   解决方案   文件   时代   数据   网络

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2008-2024 All Rights Reserved. Powered By bs178.com 闽ICP备11008920号-3
闽公网安备35020302034844号

Top