浪潮元腦R1推理服務器NF5688G8支持FP8原生精度下單機部署DeepSeek 671B大模型
浪潮NF5688 G8服務器搭載2顆AMD第五代EPYC處理器(Max cTDP 500W),支持FP8原生精度下單機部署DeepSeek 671B大模型。構建面向超大模型訓練、元宇宙、自然語言理解、推薦、AIGC等場景的強AI算力平臺。
浪潮NF5688 G8服務器搭載2顆AMD第五代EPYC處理器(Max cTDP 500W),支持FP8原生精度下單機部署DeepSeek 671B大模型。構建面向超大模型訓練、元宇宙、自然語言理解、推薦、AIGC等場景的強AI算力平臺。
節(jié)點內(nèi)全PCle 5.0高速鏈路,CPU至GPU帶寬提升4倍
節(jié)點間高速互聯(lián)擴展,4.0Tbps無阻塞帶寬IB/ROCE組網(wǎng)
集群級優(yōu)化架構設計,GPU: 計算IB:存儲IB=8:8:2