作为业内有名峰会,搭载GPU的浩瀚AI做事器自然成为行业关注焦点。
那如何才能造出一台精良的AI做事器?就此问题,做事器新锐厂商宁畅的答案,让人直感够硬核。

若何造一台优秀AI做事器?这家公司谜底够硬核!_需求_测试 AI快讯

图说:宁畅X640 G30内部图

关键一:扩展接口丰富

随着人工智能、5G、大数据等新技能的成熟与落地,企业正面临着做事器升级更新的急迫需求。
AI技能的迅速落地,也为以AI做事器为主的AI根本举动步伐扩容带来机遇。
IDC预测,到2024年,中国AI做事器市场规模将达到64亿美元。

如今,AI做事器在医疗、游戏、电商等多个行业有着广泛的运用。
不过,若想更好地开释GPU的潜力,则很磨练做事器厂商的技能与设计。

图说:丰富扩展接口担保性能

据宁畅工程师先容,制造一台“”(高效、灵巧、稳定)AI做事器,首先需有丰富的扩展性。
以宁畅AI做事器X640系列为例,在满配8个NVIDIA A100™ /V100™ Tensor Core GPU或16个NVIDIA T4™ Tensor Core GPU后,X640仍有丰富PCI-E接口用于网络、存储和其他IO扩展。
丰富扩展设计,保障了定制化方案的灵巧。

关键二:灵巧拓扑架构

对付企业来说,AI做事器要知足多场景下的运用需求。
这就哀求做事器产品具有灵巧多变适应不同AI任务需求的布局能力。

以宁畅AI做事器X640 G30为例,可通过硬件链路重新布局,以实现灵巧GPU拓扑构造,并针对不同运用处景和模型进行GPU互联优化。
这将极大便利用户“演习”大数据模型。

比如,在进行模型演习时,根据须要可安装最高8颗全高双宽高速GPU,并支持GPU之间通过P2P模式互联;在用来做推理打算时,同一台机器又可支持到最大16颗低功耗推理GPU,并为每颗GPU均衡配备CPU资源。

不久前,X640 G30在AI基准性能评测平台MLPerf的ResNet、BERT、DLRM等测试中取得30项天下第一的成绩。

关键三:定制液冷散热

AI做事器的升级优化,正加速AI家当发展。
但GPU核心部件的性能提升,带来散热等难题。
为保障整年24小时运行的AI做事器稳定,宁畅散热团队自2015年开始,先后开拓出“一体闭式循环液冷散热器”以及“分体式开环冷板液冷散热器”方案,让用户不惧永劫光GPU满功率运行。

图说:宁畅闭式/开式液冷散热方案设计图示

通过定制化,宁畅液冷散热方案可知足GPU产品400-800W范围的散热需求,并可根据客户机房设备条件,选择不同模块化配套制冷机柜进行支配,从而办理客户由于液冷适配而进行外围改造的困扰。

从能效比方面来看,定制液冷方案,节省风扇能耗超60%,噪音降幅达50%以上;而比较高功耗配置的风冷方案,液冷散热方案本钱也可掌握在仅有15-20%的提升。

关键四:智能制造工艺

AI做事器的生产磨练着厂商的自主研发、生产、供应等多方面的能力。

宁畅智能制造产线在超过150个工艺标准维度的辅导下,历经上千道工序,完成做事器生产。

智能设备实现亚毫米级精准定位和掌握;智能内存、硬盘装置设备,确保安装准确无误。

智能自动AOI光学检测设备,实时捕捉产品质量毛病,10余秒可完成近千个点的检测判断。

关键五:自动化测试

AI做事器的高性能紧张取决于硬件和软件两个层面。
而对付技能的整体升级来说,如果想要让AI做事器的硬件性能完备发挥出来,则须要系统化工程支撑。

一台好的AI做事器要历经哪些“磨难”才能出厂?以宁畅AI做事器为例,每一台的出身都至少要经由上千项测试,包括电性能测试、板级严谨测试、全面兼容性测试等。
个中,仅电性能测试部分就有近20多项测试。
此外,还得根据用户需求做特定软件环境与运用处景(包括压力测试)等性能与稳定性测试。

全体过程繁芜而弘大。
针对这一痛点,宁畅构建了系统的自动化测试体系,让每台做事器经由数千项测试并及时调度Bug,给客户带来了更好的产品和体验。
目前,像宁畅一样具备全面自动化测试能力厂商,仅占厂商总数量的2%旁边

关键六:按需定制套餐

做事器的定制化是大趋势。
当前,随着做事器市场的扩大、运用处景的不断增多,传统IT硬件已经无法知足企业的需求。
由此,定制化做事器应运而生。

尤其是一些互联网头部企业,其自身的运维中央就有比较成熟的运维管理平台和软件平台。
基于此,通用的硬件、软件等都不适用,只有根据对方的需求来量身定制,才能更好地匹配对方的场景需求。

宁畅工程师先容,

为知足互联网威信用户的做事器定制化需求,除供应BMC、BIOS配置等深定制服务外宁畅依托完善的产品、技能、工程以及研发平台,针对用户公有云、私有云、搜索、人工智能等运用处景,供应了数十款做事器“定制套餐”。

这些均符合用户的数据中央配置标准,用户只需选定所需套餐后下单,最大程度降落用户选型与适配本钱。