显卡配置选型:
1.GPU显存与内存是一个1:4的配比:
比如说我们上了2张3090显卡叠加显存是48GB(每张24G显),那机器的内存建议上到192GB。(48*4=192GB),预算有限的话稍微降低一点也是可以的。
2.内存通道:(这个其实差不多就好,因为内存通道是主板决定的,有很多主板就是只有2个内存通道,可不作为重要点考虑)
比如说我们现在需要128GB内存,按照我们常规操作,我们一般会上两根64GB的内存上去就ok了。但是呢我们其实建议是上四根32GB的。好处就是:
2.1.能够带来更多的内存通道。
2.2.就是为了保证双路机器上的内存故障是不会影响使用一颗cpu的运行。
3.硬盘(视情况而定,一般组内而言,在服务器上面的存储数据不会太多,正常原机器配置可以满足)
4.显卡的选型:
最重要的参数
针对不同深度学习架构,GPU参数的选择优先级是不一样的,总体来说分两条路线:
卷积网络和Transformer**:张量核心>FLOPs(每秒浮点运算次数)>显存带宽>16位浮点计算能力
循环神经网络:显存带宽>16位浮点计算能力>张量核心>FLOPs