-
微软推出ND H100 v5 VM虚拟机:明显提高大规模 AI 模型性能
- 时间:2024-04-26 23:15:46 来源:系统之家下载网 人气:17
系统之家 4 月 15 日消息,微软现推出 ND H100 v5 VM,是 Azure 迄今更强大和高度可伸缩的 AI 虚拟机系列。该虚拟机支持的按需配置可达 8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU,使得 AI 模型的性能明显提高。
相较上一代 ND A100 v4 VM,本次推出的虚拟机包含以下创新技术:
微软现推出 ND H100 v5 VM,是 Azure 迄今更强大和高度可伸缩的 AI 虚拟机系列。该虚拟机支持的按需配置可达 8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU,使得 AI 模型的性能明显提高。相较上一代 ND A100 v4 VM,本次推出的虚拟机包含以下创新技术:
8 块 NVIDIA H100 Tensor Core GPU,通过下一代 NV Switch 和 NV Link 4.0 互连。
在无阻塞胖树网络中,每个 GPU 搭载 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。
每个 VM 中的 8 块本地 GPUs 之间通过 3.8Tb / s 对分割带宽的 NV Switch 和 NV Link 4.0 互联。
第四代英特尔至强可扩展处理器。
PCIE 第 5 代主机到 GPU 互连,每个 GPU 带宽为 64Gb / s。
16 信道的 4800 MHz DDR5 内存。
系统之家注:NVIDIA Quantum-2 采用第七代 NVIDIA InfiniBand 架构,可为 AI 开发者和科学研究人员提供超强网络性能和丰富功能,帮助他们解决充满挑战性的问题。NVIDIA Quantum-2 通过软件定义网络、网络计算、性能隔离、高级加速引擎、远程直接内存访问 (RDMA) 以及高达 400 Gb / s 的超快的速度,为先进的超级计算数据中心提供助力。
微软表示,大规模 AI 已内置于 Azure 的 DNA 中。对大型语言模型研究(如图灵)的初始投资,以及诸如在云中构建第一台 AI 超级计算机等里程碑,都为生成式 AI 的问世做好了充分准备。Azure 机器学习等 Azure 服务使客户能够访问 AI 超级计算机,以进行模型训练。Azure OpenAI 服务使客户能够利用大规模生成式 AI 模型的强大功能。「规模」一直是 Azure 优化 AI 基础设施的目标之一。现在,微软正为各种规模的初创公司和企业带来无需大量物理硬件或软件投入的超级计算功能。
现在,ND H100 v5 预览发布,将成为 Azure 产品组合中的标准服务。
相关文章
-
199 美元含《俄罗斯方块》卡带,ModRetro 推出 Chromatic FPGA 复古掌机
ModRetro 推出 Chromatic 复古掌机,基于 FPGA 方案,可兼容 Game Boy、Game Boy Color 及专属 Chromatic 卡带,首发预定赠送专属《俄罗斯方块》卡带。...2024-06-04 -
双排冷凝器 + 美芝压缩机:VINO 变频空调 1.5 匹 1599 元(新一级能效)
VINO(威诺)新一级能效壁挂式空调 日常售价 2199 元,今日下单立减 50 元,可领 70 元限时券。...2024-06-04 -
988 美元带方案,xMEMS 推出固态 MEMS 扬声器 TWS 与 IEM 耳机参考设计
xMEMS Labs 今日推出基于其 MEMS 固态微型扬声器技术的 Harding TWS 真无线耳与 Montara Plus Buds 有线 IEM 耳机参考设计,售价 988 美元并附带全套设计方案。...2024-06-04 -
升级三相电机水泵、CapSwap 模块化顶盖,海盗船推出 iCUE LINK TITAN RX RGB 水冷散热器
海盗船全新设计的 iCUE LINK TITAN RX RGB 系列水冷散热器升级三相电机水泵,提供 240、280、360 三种规格及黑白双色可选。...2024-06-04