type
status
date
slug
summary
tags
category
icon
password
Ring Channel | NVLinks | Bus Bandwidth |
1->5->4->6->7->3->2->0 | 2 | 50 GB/s |
1<-5<-4<-6<-7<3<-2<-0 | 2 | 50 GB/s |
1->3->0->4->7->5->6->2 | 1 | 25 GB/s |
1<-3<-0<-4<-7<-5<-6<-2 | 1 | 25 GB/s |
- 四个由 8条 NVilink 组成的ring.
- 当扩展到所有8个GPU时，总带宽能到 150GB/s,双向总带宽每秒可达300GB.
- 单节点带宽最低 25GB/s 最高 50GB/s.
nvidia-smi topo -m : NVLinks 8
- 8 个网络接口可接8根IB网线，目前常用的IB速度为100 Gb/s, 8根加起来100 GB/s.
- 机内通信用nvilink
- 机间通信用 IB网线
- 作者:SimonSun
- 链接:https://simons-blog-eight.vercel.app//article/llm-2
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。
