训练时GPU显存太小问题、batchsize 的大小跟GPU的显存的关系

news/2024/11/9 2:38:36/

参考链接:https://blog.csdn.net/lien0906/article/details/78863118

问题:

tensorflow/core/common_runtime/bfc_allocator.cc:661] Chunk at 0x523cd7d00 of size 2048

tensorflow/core/common_runtime/bfc_allocator.cc:661] Chunk at 0x523cd8500 of size 9437184

tensorflow/core/common_runtime/bfc_allocator.cc:661] Chunk at 0x5245d8500 of size 2048

解决:尝试降低网络的深度和宽度、batch size 的大小 

深度学习中神经网络的显存占用,我们可以得到如下公式:

显存占用 = 模型显存占用 + batch_size × 每个样本的显存占用

  • 时间更宝贵,尽可能使模型变快(减少 flop)

  • 显存占用不是和 batch size 简单成正比,模型自身的参数及其延伸出来的数据也要占据显存

  • batch size 越大,速度未必越快。在你充分利用计算资源的时候,加大 batch size 在速度上的提升很有限

尤其是 batch-size,假定 GPU 处理单元已经充分利用的情况下:

  • 增大 batch size 能增大速度,但是很有限(主要是并行计算的优化)

  • 增大 batch size 能减缓梯度震荡,需要更少的迭代优化次数,收敛的更快,但是每次迭代耗时更长。

  • 增大 batch size 使得一个 epoch 所能进行的优化次数变少,收敛可能变慢,从而需要更多时间才能收敛(比如 batch_size 变成全部样本数目)


http://www.ppmy.cn/news/296128.html

相关文章

gpu相关内容,带宽,显存,填充率等

1、 bus width:显存位宽 bandwidth:显存带宽 显存位宽 * 显存频率 / 8 显存带宽 以740显卡为例 显存位宽是128bit,显存频率是5Gbps 显存带宽就是80GB/s 计算显存带宽时要留意显存类型(Memory Type),对于GDDR1/2/3/4显存&a…

位宽512bit显卡_显卡位宽是什么?详解显卡位宽基础知识科普!

由于买电脑的时候大家对显卡的显存大小过于重视,很多人忽视了显存位宽的重要性,甚至出现2GB独立显卡但是位宽只有64bit这样坑人的显卡。也许有人说,显卡位宽做大点不就好了么。这是不对的,显卡位宽的扩大需要硬件的扩容,就像你要扩马路占用地皮一样,所以成本比提高显存要…

什么是显存带宽

在每一个子系统中,除了子系统与处理器之间的速度交换外,子系统内部也有不同的数据交换, 对于图形子系统而言, 除了显示芯片与核处理器之间的数据交换外, 还有显示芯片与显存之间的数据交换.图型处理芯片与显存之间的数据交换速度就是显存的带宽了,这个速度越高, 也就说明交换速…

DDR3的位宽和容量计算

DDR3的位宽在芯片手册里的说法是Configuration,其位宽就是DDR3芯片DQ管脚的数量,即I/O接口位宽。另外推荐这篇文章DDR扫盲——DDR中的名词解析。 DDR3中一个基本的概念是BANK,很多博文会提到两个概念:逻辑BANK(Logica…

显卡显存带宽的计算

bus width 是显存位宽 bandwidth 才是带宽 带宽(Bytes/s)位宽(bit)x显存有效频率(Hz)/8 公式:显存位宽 X显存频率(GD3X2 ,GD5要X4)再除以8就是显存带宽。 显存有效频率显存基本频率X显存类型(DDR3的乘以2,D…

显卡位宽和带宽的区别

显存位宽是显存在一个时钟周期内所能传送数据的位数,位数越大则瞬间所能传输的数据量越大,这是显存的重要参数之一。目前市场上的显存位宽有64位、128位和256位三种,更高的还有专业显卡的512的,大家习惯上叫的64位显卡、128位显卡…

显存位宽

显存位宽是显存在一个时钟周期内所能传送数据的位数,位数越大则瞬间所能传输的数据量越大,这是显存的重要参数之一。 大家知道 显存带宽显存位宽/8,那么在显存频率相当的情况下,显存位宽将决定 显存带宽的大小。比如说同样 显存频…

GPU显卡,显存位宽

显存位宽是显存在一个时钟周期内所能传送数据的位数,位数越大则瞬间所能传输的数据量越大,这是显存的重要参数之一。 1简介 显存位宽是显存在一个时钟周期内所能传送数据的位数,位数越大则瞬间所能传输的数据量越大,这是显存的重要…