信息检索中“禁止文档”的过滤新方法
2025/12/21 7:00:32
Day 43 学习笔记：图像数据与显存机制@浙大疏锦行
一、 图像数据基础
数据形状 (Shape)
结构化数据：
(样本数, 特征数)图像数据
：
(通道数, 高, 宽)PyTorch 默认格式 (Channel First)
- 灰度图(如 MNIST)：通道数 = 1
- 彩色图(如 CIFAR-10)：通道数 = 3 (RGB)
维度陷阱
- PyTorch使用
(C, H, W)。 - Matplotlib/OpenCV通常使用
(H, W, C)。 - 注意：在使用
plt.imshow()可视化 PyTorch 张量时，必须先使用np.transpose或permute交换维度顺序。
- PyTorch使用
二、 图像神经网络 (MLP) 定义
- 展平操作 (Flatten)
- MLP 全连接层只能接收一维向量。
- 必须在输入层前使用
nn.Flatten()或x.view()将(C, H, W)拉平为(C×H×W)的一维向量。
- Batch Size 与模型定义
- 模型定义阶段：无关。
nn.Linear等层定义时不涉及 Batch Size。 - 数据加载阶段：相关。
DataLoader中设置 Batch Size。 - 前向传播：PyTorch 会自动处理第一维度的 Batch，模型内部计算逻辑不变。
- 模型定义阶段：无关。
三、 显存 (VRAM) 占用分析
显存不仅仅用来存图片，主要由以下4部分组成：
| 组成部分 | 说明 | 估算公式 (Float32) |
|---|---|---|
| 1. 模型参数 | 模型的权重 (Weights) 和偏置 (Bias) | 参数量 ×× 4 Bytes |
| 2. 梯度 | 反向传播计算出的导数 | ≈≈ 参数量 ×× 4 Bytes |
| 3. 优化器状态 | 优化器更新参数所需的额外信息 | SGD: 0 Adam: ≈≈ 参数量 ×× 8 Bytes (动量+方差) |
| 4. 中间变量 & 数据 | 输入数据 + 每一层的输出特征图 (Activations) | 受 Batch Size 影响最大 Batch Size ×× (单样本大小 + 中间层大小) |
结论：模型参数和优化器占用是固定的（这也是为什么大模型很难跑起来），而调整 Batch Size 是控制显存占用的主要手段。
四、 Batch Size 的选择策略
- 显存限制 (OOM)
- Batch Size 设置过大会导致
Out Of Memory。 - 建议从 16, 32, 64 开始尝试，通常设置为显卡最大承载能力的80%左右。
- Batch Size 设置过大会导致
- 对训练的影响
- Batch Size = 1：梯度随机性大，震荡剧烈，难以收敛。
- Batch Size 较大：利用矩阵并行计算加速；梯度是多个样本的平均值，方向更准，训练更稳定。
@浙大疏锦行