NF5488A5

jyhpc AI服务器产品227阅读模式

NF5488A5是一款浪潮信息自研的具有超强算力的AI服务器,持续引领全球AI训练和推理性能标杆。在图像分类场景,单机27分钟即可完成一次ResNet50训练任务;在推理任务中,单机每秒可完成329037张图片的分类。广泛适用于图像、视频、语音识别、金融分析、智能客服等典型AI应用场景。

  • 强劲动力核芯

2颗280W AMD EPYC处理器,4条XGMI链路互联

8颗NVIDIA Ampere架构GPU,600GB/s带宽NVSwitch全互联

MLPerf 训练和推理测试竞赛夺冠40余项

  • 出色的系统设计

较高的算力密度,4U空间集成8*Ampere架构GPU和2*64核CPU

良好的散热能力,专利技术支持超高环温稳定运行

集约高效,大规模数据中心和行业场景化部署

  • 高速低延通信

创新互联架构大幅降低CPU与GPU间通信延迟

800Gb/s InfiniBand (IB)高速网络支持多节点线性扩展

  • 软硬协同优化

软硬件拓扑协同优化,数据传输延迟降低50%

创新多卡轮询调度机制,GPU性能线性扩展

自研模型通道压缩算法,AI训练性能提升1.9倍