python 设置 cuda所用显存

原创

mob64ca12edad02 2024-04-02 06:40:59 ©著作权

文章标签 python CUDA Python 文章分类 Python 后端开发

©著作权归作者所有：来自51CTO博客作者mob64ca12edad02的原创作品，请联系作者获取转载授权，否则将追究法律责任

Python设置CUDA所用显存教程

一、流程概述

下面是设置CUDA所用显存的主要步骤：

步骤	描述
1	导入所需库
2	设置PyTorch中的显存分配
3	查看当前GPU显存使用情况

二、具体步骤及代码示例

1. 导入所需库

在Python中使用PyTorch进行深度学习开发时，首先需要导入相应的库：

# 导入PyTorch库
import torch

2. 设置PyTorch中的显存分配

在PyTorch中，可以通过设置torch.cuda.set_per_process_memory_fraction和torch.cuda.set_per_process_memory_growth来控制显存分配的比例和增长策略：

# 设置显存分配比例为0.7
torch.cuda.set_per_process_memory_fraction(0.7)
# 启用显存增长策略
torch.cuda.set_per_process_memory_growth(True)

torch.cuda.set_per_process_memory_fraction(0.7)：设置显存分配比例为0.7，即每个进程最多使用70%的显存。
torch.cuda.set_per_process_memory_growth(True)：启用显存增长策略，显存会根据需要动态增长。

3. 查看当前GPU显存使用情况

在PyTorch中，可以使用torch.cuda.memory_allocated()和torch.cuda.max_memory_allocated()来查看当前GPU显存使用情况：

# 查看当前已分配的显存
allocated = torch.cuda.memory_allocated()
# 查看最大已分配的显存
max_allocated = torch.cuda.max_memory_allocated()
print(f"当前已分配显存: {allocated} bytes, 最大已分配显存: {max_allocated} bytes")

torch.cuda.memory_allocated()：返回当前已分配显存的字节数。
torch.cuda.max_memory_allocated()：返回最大已分配显存的字节数。

三、类图

classDiagram
    class PyTorch {
        - torch
    }
    class CUDA {
        + set_per_process_memory_fraction(fraction)
        + set_per_process_memory_growth(True/False)
        + memory_allocated()
        + max_memory_allocated()
    }
    PyTorch <|-- CUDA