type
status
date
slug
summary
tags
category
icon
password
notion image
Ring Channel
NVLinks
Bus Bandwidth
1->5->4->6->7->3->2->0
2
50 GB/s
1<-5<-4<-6<-7<3<-2<-0
2
50 GB/s
1->3->0->4->7->5->6->2
1
25 GB/s
1<-3<-0<-4<-7<-5<-6<-2
1
25 GB/s
  • 四个由 8条 NVilink 组成的ring.
  • 当扩展到所有8个GPU时,总带宽能到 150GB/s,双向总带宽每秒可达300GB.
  • 单节点带宽最低 25GB/s 最高 50GB/s.
 

nvidia-smi topo -m : NVLinks 8

  • 8 个网络接口可接8根IB网线,目前常用的IB速度为100 Gb/s, 8根加起来100 GB/s.
  • 机内通信用nvilink
  • 机间通信用 IB网线
 
CO-STAR Prompt 多模态入门记录
Loading...
SimonSun
SimonSun
Internet Malou, LLM Rookie, Bug Maker🤧
最新发布
PPO(0)强化学习基础
2025-2-20
Last Day of 2024
2025-2-19
服务器从零到 personal workspace
2025-2-13
CO-STAR Prompt
2025-2-8
Notion Next 嵌入网易云音乐
2025-1-19
LLM训练数据格式
2025-1-16
公告
🙌README🙌
🤯There is nothing left
in my right brain,
🤯and there is nothing right
in my left brain...
⭐I wish you every success⭐