开发环境与运行环境:
开发环境是指用于模型转换或验证以及程序编译等开发过程的环境;运行环境是指在具备Sophon设备的平台上实际使用设备进行算法应用部署的运行环境。
开发环境与运行环境可能是统一的(如插有SC5加速卡的x86主机,既是开发环境又是运行环境),也可能是分离的(如使用x86主机作为开发环境转换模型和编译程序,使用SE5盒子部署运行最终的算法应用)。
但是,无论您使用的产品是SoC模式还是PCIe模式,您均需要一台x86主机作为开发环境,您的运行环境可以是任何我们已经测试支持的系统平台。
如果是PCIe模式,那么您需要将PCIe加速卡插到主机中。若您需要进行模型的编译量化,可按照指引配置docker环境,在docker环境中进行模型的编译量化。若您需要进行模型验证、程序编译、算法的应用部署,可按照指引依次安装libsophon、sophon-mw。您也可以添加您需要的库包以及其他程序代码,构建您自己的生产环境。
PCIe用户检查PCIe加速卡是否正常被系统识别:
打开终端执行 lspci | grep Sophon 检查卡是否能够被识别。正常情况下应该输出如下信息:
01:00.0 Processing accelerators: Bitmain Technologies Inc. BM1684, Sophon Series Deep Learning Accelerator (rev 01)
若PCIe加速卡没有被系统正常识别,则需要首先排除故障,通常引起PCIe加速卡未被正常识别的可能原因有:PCIe加速卡在插糟中没有插紧;
检查插卡的槽位是否是标准的X16槽位,X8槽位的功率支持通常最大只有45W,不建议使用;
PCIe加速卡从PCIe直接供电,不需要外接电源,若连接了外接电源,可能导致卡不能被正常识别;
三芯片以上PCIe加速卡需要足够的散热条件,若风道和风量不能符合PCIe加速卡的被动散热要求,则需要通过BIOS将风扇转速设置到足够大或者加装额外的风扇进行散热。
环境搭建
libsophon 在不同的Linux发行版上提供不同类型的安装方式,请根据您的系统选择对应的方式,不要在一台机器上混用多种安装方式。
安装包由三个文件构成:sophon-driver_<x.y.z>_$arch.deb、sophon-libsophon_<x.y.z>_$arch.deb、sophon-libsophon-dev_<x.y.z>_$arch.deb
其中,<x.y.z> 指版本号,$arch 指当前机器的硬件架构,使用如下命令可获取当前服务器的arch。通常x86_64机器对应的硬件架构是amd64,arm64机器对应的硬件架构是arm64。请选择您对应的安装文件进行安装。
uname -m
检查驱动是否安装成功:
执行 ls /dev/bm* 看看是否有 /dev/bm-sohponX (X表示0-N),如果有表示安装成功。 正常情况下输出如下信息:
/dev/bmdev-ctl /dev/bm-sophon0
然后使用bm-smi命令查看信息