type
status
date
slug
summary
tags
category
icon
password
notion image
Ring Channel
NVLinks
Bus Bandwidth
1->5->4->6->7->3->2->0
2
50 GB/s
1<-5<-4<-6<-7<3<-2<-0
2
50 GB/s
1->3->0->4->7->5->6->2
1
25 GB/s
1<-3<-0<-4<-7<-5<-6<-2
1
25 GB/s
  • 四个由 8条 NVilink 组成的ring.
  • 当扩展到所有8个GPU时,总带宽能到 150GB/s,双向总带宽每秒可达300GB.
  • 单节点带宽最低 25GB/s 最高 50GB/s.
 

nvidia-smi topo -m : NVLinks 8

  • 8 个网络接口可接8根IB网线,目前常用的IB速度为100 Gb/s, 8根加起来100 GB/s.
  • 机内通信用nvilink
  • 机间通信用 IB网线
 
CO-STAR Prompt 多模态入门记录
Loading...
SimonSun
SimonSun
Internet Malou, LLM Rookie, Bug Maker🤧
最新发布
相机入门记录(1)购物篇
2025-3-14
实用网站-工作提速大礼包
2025-3-14
conda poetry 全面迁移到 uv
2025-3-14
郁闷记
2025-3-13
LLM训练数据格式
2025-3-13
PPO(1)算法详解
2025-3-13
公告
🙌README🙌
🤯There is nothing left
in my right brain,
🤯and there is nothing right
in my left brain...
⭐I wish you every success⭐