8月15日,在苏州举行的2020全球人工智能产品应用博览会(AIExpo2020)上,浪潮最新推出的人工智能服务器NF5488A5受到关注。这款AI服务器在此前最新公布的MLPerf全球权威AI测试榜单中,仅用时33.37分钟,就在包含128万张图片的ImageNet数据集上完成Resnet50模型的训练,相当于每秒训练23000多张图片,单机计算性能排名第一。
MLPerf是业内首套衡量机器学习软硬件性能的通用基准,由图灵奖得主David Patterson联合谷歌和几所著名高校于2018年发起,得到亚马逊、Facebook、谷歌、哈佛大学、英特尔、英伟达、阿里巴巴、浪潮等支持和参与。在最新发布的MLPerf 0.7 训练测试榜单中,浪潮NF5488A5人工智能服务器除了在Resenet50取得单机计算性能榜首外,还在人工智能自然语言理解Transformer、神经网络翻译系统GNMT、深度学习推荐模型DLRM、目标监测算法SSD等MLPerf的模型训练评估中均取得不俗成绩。
参与打榜的这款产品NF5488A5是浪潮自研推出的新一代AI服务器,单机训练性能可达5 PetaOPS,相比上一代服务器计算性能提升234%。两年前Facebook的科学家用32台GPU服务器、256块GPU花了1个小时完成了ImageNet上的Resnet50训练,而现在仅需一台NF5488A5,即可在33分钟完成同样的训练,单台设备训练效率提升近60倍。同时,浪潮优化了NF5488A5的拓扑结构,采用NUMA绑定策略,可实现CPU与最近GPU的指定通信,大幅提升CPU与GPU之间的数据传输效率,实现更低的数据传输延迟和更高的带宽,满足各种AI负载高效数据通信需求。
NF5488A5可广泛应用于图像视频、语音识别、金融分析、智能客服等典型AI应用场景,帮助AI用户高效完成AI基础设施和开发环境的构建,缩短开发周期,显著提升AI开发和应用效率,在享受更高计算性能的同时降低部署、运行成本。
