一、轻量级模型(1.5B-7B参数)
-
1.5B模型
-
CPU:最低4核(推荐Intel/AMD多核处理器)
-
内存:8GB+(纯CPU推理)
-
显卡:非必需,若需加速可选4GB+显存(如GTX 1650)
-
存储:3GB+(模型文件约1.5-2GB)
-
适用场景:低资源设备(如树莓派、旧笔记本)、简单文本生成或物联网设备
-
-
7B模型
-
CPU:8核以上(推荐现代多核处理器)
-
内存:16GB+(纯CPU需更高内存)
-
显卡:推荐8GB+显存(如RTX 30
-