主 题：DGX Spark 详测
发 布 者：jasperxzy
标签分类： 测评
时 间：2026-10-15 21:43:55
内容预览：GPU 算力 5090 是 DGX Spark 的 3 倍、显存带宽 6 倍、模型推理吞吐 4 倍，显存带宽限制感觉再怎么并联 tps 也好看不到哪里去，当个大玩具？GPU 算力与显存带宽项目（稠密，不含稀疏）DGX SparkRTX 50905090 / SparkFP64 矩阵乘（TFLOPS）0.431.754.1×FP32 矩阵乘（TFLOPS）19.266.43.5×TF32 矩阵乘（TFLOPS）41.0117.12.9×BF16 矩阵乘（TFLOPS）95.4229.62.4×FP16 矩阵乘（TFLOPS）94.6216.72.3×FP8 矩阵乘（TFLOPS）185.8447.32.4×INT8 矩阵乘（TOPS）143.4610.04.3×NVFP4 矩阵乘（TFLOPS）351.91207.63.4×FP16 卷积（TFLOPS）92.9219.82.4×BF16 注意力（TFLOPS）82.8194.92.4×显存拷贝带宽（GB/s）23515286.5×主机→GPU 传输（GB/s）59.056.91.0×能效比每瓦算力 DGX Spark 全面领先，FP16/BF16 高约 2.8 倍，满载时 Spark 的 GPU 只用 90 W（空闲 3.7 W）精度DGX Spark（TFLOPS/W）RTX 5090（TFLOPS/W）Spark 领先FP320.220.131.6×TF320.440.212.2×BF161.080.402.7×FP161.090.392.8×FP82.040.792.6×INT8（TOPS/W）1.601.081.5×NVFP43.792.101.8×显存带宽（GB/s/W）8.95.11.7×模型推理模型Spark 批 1 延迟（ms）5090 批 1 延迟（ms）Spark 最高吞吐（FPS）5090 最高吞吐（F
直达链接： https://www.nodeseek.com/post-986112-1
发 布 者：jasperxzy
标签分类： 测评
时 间：2026-10-15 21:43:55
内容预览：GPU 算力 5090 是 DGX Spark 的 3 倍、显存带宽 6 倍、模型推理吞吐 4 倍，显存带宽限制感觉再怎么并联 tps 也好看不到哪里去，当个大玩具？GPU 算力与显存带宽项目（稠密，不含稀疏）DGX SparkRTX 50905090 / SparkFP64 矩阵乘（TFLOPS）0.431.754.1×FP32 矩阵乘（TFLOPS）19.266.43.5×TF32 矩阵乘（TFLOPS）41.0117.12.9×BF16 矩阵乘（TFLOPS）95.4229.62.4×FP16 矩阵乘（TFLOPS）94.6216.72.3×FP8 矩阵乘（TFLOPS）185.8447.32.4×INT8 矩阵乘（TOPS）143.4610.04.3×NVFP4 矩阵乘（TFLOPS）351.91207.63.4×FP16 卷积（TFLOPS）92.9219.82.4×BF16 注意力（TFLOPS）82.8194.92.4×显存拷贝带宽（GB/s）23515286.5×主机→GPU 传输（GB/s）59.056.91.0×能效比每瓦算力 DGX Spark 全面领先，FP16/BF16 高约 2.8 倍，满载时 Spark 的 GPU 只用 90 W（空闲 3.7 W）精度DGX Spark（TFLOPS/W）RTX 5090（TFLOPS/W）Spark 领先FP320.220.131.6×TF320.440.212.2×BF161.080.402.7×FP161.090.392.8×FP82.040.792.6×INT8（TOPS/W）1.601.081.5×NVFP43.792.101.8×显存带宽（GB/s/W）8.95.11.7×模型推理模型Spark 批 1 延迟（ms）5090 批 1 延迟（ms）Spark 最高吞吐（FPS）5090 最高吞吐（F
直达链接： https://www.nodeseek.com/post-986112-1
