大模型GPU监控之nvitop
在进行大模型训练的时候，往往需要用到多张GPU卡，如何实现多卡的管理和监控，这是一个比较好的话题，下面介绍一个小工具。
·
背景
在进行大模型训练的时候，往往需要用到多张GPU卡，如何实现多卡的管理和监控，这是一个比较好的话题，下面介绍一个小工具。
安装nvitop
pip install nvitop
nvitop -m full监控界面
Agent 垂直技术社区，欢迎活跃、内容共建。
更多推荐
3
0- 0
已为社区贡献3条内容
所有评论(0)