英伟达推DGX Cloud 通过浏览器就能即时接入AI超级计算机

雷递网 乐天 3月22日

英伟达(NVIDIA)日前发布NVIDIA DGX Cloud 。DGX Cloud实例的价格为每实例每月36,999美元起。

这项AI超级计算服务使企业能够即时接入用于训练生成式AI等开创性应用的高级模型所需的基础设施和软件。

英伟达称,DGX Cloud可提供NVIDIA DGX AI超级计算专用集群,并配以NVIDIA AI软件。这项服务使得每个企业都可以通过一个简单的网络浏览器就能访问自己的AI超级计算机,免除了购置、部署和管理本地基础设施的复杂性。

企业可按月租用DGX Cloud集群,以便能够快速、轻松地扩展大型多节点训练工作负载的开发,无须等待需求量通常很大的加速计算资源。

NVIDIA创始人兼首席执行官黄仁勋表示:“我们正处于AI的‘iPhone’时刻。初创企业正在竞相打造颠覆性的产品和商业模式,老牌企业则在寻求应对之法。DGX Cloud 使客户能够在全球规模的云上即时接入NVIDIA AI超级计算。”

NVIDIA正在与云服务商联合托管DGX Cloud基础设施,Oracle Cloud Infrastructure(OCI)将通过其OCI超级集群,提供专门构建的RDMA网络、裸金属计算以及高性能本地块存储,可扩展到超过32,000个GPU所组成的超级集群。

微软Azure预计下个季度开始托管DGX Cloud。这项服务还将在不久之后扩展到谷歌云等。

英伟达称,企业可以使用 NVIDIA Base Command 平台软件管理和监控DGX Cloud训练工作负载,该软件可实现DGX Cloud以及本地NVIDIA DGX超级计算机之间用户体验的无缝衔接。通过使用Base Command 平台,用户可根据每项工作所需的DGX基础设施的数量和类型,将工作负载与之相匹配。

DGX Cloud包含NVIDIA AI Enterprise。NVIDIA AI Enterprise作为NVIDIA AI平台的软件层,通过提供端到端AI框架和预训练模型,来加速数据科学流程,并简化生产级AI的开发和部署。今日发布的NVIDIA AI Enterprise 3.1提供新的预训练模型、经过优化的框架和加速数据科学软件库,可进一步帮助开发人员启动他们的AI项目。

DGX Cloud的每个实例都配有8个NVIDIA H100或A100 80GB Tensor Core GPU,每个节点共有640GB GPU内存。使用NVIDIA 网络解决方案构建的高性能、低延迟结构确保了工作负载能够在互连系统集群中扩展,使多个实例就像一个巨型的GPU,以满足高级AI训练性能要求。集成在DGX Cloud中的高性能存储为AI超级计算提供了完整的解决方案。

DGX Cloud特有的来自NVIDIA专家的支持贯穿整个AI开发流程。用户可以直接与NVIDIA工程师一起优化模型,并迅速解决各种行业用例中的开发难题。

———————————————

雷递由媒体人雷建平创办,若转载请写明来源。

展开阅读全文

页面更新:2024-03-16

标签:英伟   节点   负载   集群   基础设施   实例   模型   浏览器   计算机   工作   软件   企业

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2008-2024 All Rights Reserved. Powered By bs178.com 闽ICP备11008920号-3
闽公网安备35020302034844号

Top