显示GPU显存占用方法

  • 引言
  • 一、nvidia-smi
  • 二、windows下的任务管理器
  • 三、pynvml库
  • 四、显存不够用又没钱怎么办

引言

主要针对显卡：nvidia
初衷：想要看某个python程序的GPU显存占用量

一、nvidia-smi

在linux下使用nvidia-smi 可以直接显示GPU使用情况1:
但是在windows下有的时候显示N/A (如下图所示)：
python 查看程序的GPU显存占用

未解之谜2:Windows下NVIDIA-SMI中为什么看不到GPU Memory

二、windows下的任务管理器

任务管理器也可以查看程序GPU占用信息, 点击详细信息, 看专用GPU
python 查看程序的GPU显存占用

小知识3:专用GPU内存 vs 共享GPU内存

三、pynvml库

比较全4:python 输出 GPU内存 最大使用率
简洁仅显存5:python查看显卡gpu信息

只有输出总GPU的显存占用，并没有找到获取单个程序GPU显存占用的函数
计算单个程序占用会有误差(桌面等程序也会占用GPU,占用量是动态变化的)

四、显存不够用又没钱怎么办

减小batch、减小网络、多用pooling降低数据分辨率 – 可能会降低性能

小知识6:Pytorch节省显存小技巧

希望可以做一个不费内存速度快精度还高的实用模型 python 查看程序的GPU显存占用

  1. Linux查看GPU信息和使用情况 ↩︎

  2. Windows下NVIDIA-SMI中为什么看不到GPU Memory ↩︎

  3. 专用GPU内存 vs 共享GPU内存 ↩︎

  4. python 输出 GPU内存 最大使用率 ↩︎

  5. python查看显卡gpu信息 ↩︎

  6. Pytorch节省显存小技巧 ↩︎

声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。