浪潮gpu服务器怎么样(浪潮gpu服务器价格)

浪潮gpu服务器怎么样(浪潮gpu服务器价格)

在很久很久以前(其实也就五六年前),GPU还只是装在显卡里,用于游戏视觉、图像渲染。那个时候,机器学习计算使用的还是通用性更好、更普遍的CPU。但随着技术及应用的不断发展,大家发现CPU的计算能力已经无法满足机器学习超大的运算量需求。于是,几乎所有目光都转向了,计算能力更强的GPU。作为“专用型”处理器,GPU的优势就体现在这里——研发人员可以专注于提升它的性能,而无需考虑通用性的问题。单就计算能力而言,GPU可达到CPU的几十上百倍。

浪潮gpu服务器怎么样(浪潮gpu服务器价格)

人工智能的核心是机器学习,使计算机具有智能的根本途径也是机器学习。图像识别、自然语言处理、医疗诊断、市场分析、故障检测……机器学习的应用已经十分广泛,因此为其提供计算能力的GPU自然也成了市场上的“香饽饽”。GPU领导者英伟达的股价更是因此大幅上涨,自2016年1月起,从29美元左右狂飙至160美元以上——涨幅超过570%。

AI的浪潮拍打的不只是GPU这片沙滩,更是整个服务器产业链的发展。在处理器厂商们纷纷推出主打AI计算产品的同时,处于下游的服务器厂商们也相继推出了专为AI而设计的、搭载GPU的服务器。

浪潮gpu服务器怎么样(浪潮gpu服务器价格)

这次我们就来聊一聊各大服务器厂商所推出的更具代表性的“GPU-AI服务器”,而今天我们首先要谈到的是浪潮公司在7月中旬推出的M5系列成员——NF5288M5服务器,目前全球密度最高,2U空间内配置8个GPU。数据中心的空间资源是非常宝贵的,而AI训练也需要超高的计算能力,拥有更高的密度,就意味着在同样空间下能够获得更高的计算能力。

NF5288M5由浪潮与英伟达联合研发,可更换模组,支持基于NVIDIA NVLink技术的Tesla P100和基于PCIe 3.0接口的TeslaP40 GPU,同时也支持10种GPU拓扑配置,以应对多种深度学习和HPC应用场景。

在此基础上,该产品也支持纵横双向扩展。GPU纵向扩展,双路系统最大支持16个GPU;单节点支持4*100G可远程内存直接访问的高速网络,为横向扩展优化。

值得一提的是,当前多数AI训练中通常会采用CPU+GPU异构计算架构,即CPU下发训练指令,GPU则进行计算,并将结果反馈给CPU。这种架构下,CPU和GPU分担着不同的任务,但同时也有一定的缺点,就是两者之间互相通讯的问题,往往需要花费大量时间,对整个计算架构的效率产生影响。

浪潮gpu服务器怎么样(浪潮gpu服务器价格)

▲浪潮NF5288M5服务器

浪潮NF5288M5则放弃了传统异构架构,在不通过CPU的前提下,可实现机内点到点通讯,减少了通讯耗时。同时,采用NVIDIA最新的Tesla系列GPU,可实现GPU之间高达300 GB/s的互联带宽,多块GPU并行效率提升60%以上。NF5288M5采用PCIe线缆的方式连接CPU和GPU,可对CPU的连接带宽和数量进行灵活调整,在不同的AI训练中,将PCIe资源进行按需分配。其计算架构可以让一颗或两颗CPU管理8颗GPU,该产品搭载的是2个英特尔至强可扩展处理器。

在电源及散热方面,由于搭载了8个功耗达300W的GPU,再加上其他的存储计算等资源,浪潮NF5288M5整机功耗达到3000W,其峰值发热量6倍于传统2U服务器。因此在设计之初,如何更好地实现散热就成为了非常重要的问题。此服务器支持冗余热插拔系统风扇及风冷/液冷混合冷却方式,风冷散热可支持35°环温,GPU部分可选提供液冷散热,可在更低PUE要求的数据中心环境中工作。

总结:对于机器学习,特别是深度学习而言,其计算平台往往需要极高的计算力和平台弹性。计算力自然不用多说,为提升准确率,模型训练通常需要对数十万个样本进行十万级以上的训练迭代,训练量、计算量是非常庞大的。至于平台弹性的需求,则出于目前世面上的多种AI框架。不同的框架包含不同的模型和算法,产生不同规模的数据,训练场景会变得十分多样化。与此同时,结合数据中心空间资源的重要性,也产生了对产品密度的需求。

从以上的介绍中我们能看到,号称“目前全球密度最高”的浪潮NF5288M5,其优势可以说不止是在密度方面。搭载NVIDIA最新Tesla系列GPU,且另辟蹊径般地选择同构计算架构,因此在计算力及效率方面是可圈可点的。而在弹性方面,该产品的设计也让人眼前一亮——可更换模组,支持10种GPU拓扑配置,同时支持双向扩展——“弹性十足”。

因此,作为一款主打AI计算的服务器,浪潮NF5288M5在各方面的表现都算优秀,在浪潮AI服务器系列产品中,更具代表性。

更多服务器知识文章推荐:
分享到 :
相关推荐

gpu服务器是什么(GPU服务器)

现在许多企业早已了解到GPU规模性并行计算产生的优点,刚开始用强劲的多GPU服务器虚...

华为gpu服务器(华为gpu服务器型号)

据韩国媒体TheElec报道,华为技术今年将在韩国设立云和AI事业群,希望进军目前[...

gpu服务器的用途(gpu服务器与cpu服务器的区别)

说到显卡,估计90%以上的人都认为这就是一个游戏工具。现在高性能的显卡难道只是为游戏...

GPU服务器和矿机的区别(gpu服务器挖矿可以吗)

在我们的印象中,矿机是可以挖掘比特币,源源不断产生财富的机器。但关于它究竟如何工作挖...

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注