nvidia系列教程-AGX-Orin基础环境搭建

前言

一、Agx-Orin（32GB）介绍

1.1 GPU

1.2 CPU

1.3 NVDLA（NVIDIA Deep Learning Accelerator）

1.4 内存

1.5 存储

二、安装JetPack SDK

三、基础环境配置

四、jetpack软件版本

总结

前言

NVIDIA Jetson AGX Orin 是一款功能强大的嵌入式AI平台，专为需要高性能和低功耗的边缘计算应用设计。无论是自动驾驶、机器人，还是智能监控系统，Jetson AGX Orin 都能为这些应用提供强大的计算能力。本篇博客将为大家详细介绍如何在AGX Orin（32GB）上搭建基础开发环境，包括系统安装、CUDA和cuDNN的配置等，帮助你快速上手这个强大的平台。

一、Agx-Orin（32GB）介绍

1.1 GPU

架构: 搭载 56 个 Tensor Core 的 1792 核 NVIDIA Ampere c GPU
CUDA Cores: 2048 个
Tensor Cores: 64 个
GPU频率: 高达1.3 GHz

Jetson AGX Orin 搭载的GPU基于NVIDIA的Ampere架构，支持CUDA并行计算和Tensor Core加速，能够提供出色的AI推理性能，尤其在深度学习应用中表现出色。

1.2 CPU

架构: 8 核 Arm® Cortex®-A78AE v8.2 64 位 CPU 2MB L2 + 4MB L3
核心频率: 高达2.2 GHz

Jetson AGX Orin 的CPU由12个高性能的ARM Cortex-A78AE核心组成，提供了强大的计算能力，适合并行计算和多任务处理。

1.3 NVDLA（NVIDIA Deep Learning Accelerator）

NVDLA引擎: 2 个
每个NVDLA的AI算力: 40 TOPS

NVDLA是一种专用的深度学习加速器，能够处理卷积神经网络中的推理任务，并减少CPU和GPU的负载，从而提高整体系统性能和能效。

1.4 内存

内存类型: 32GB LPDDR5
内存带宽: 205GB/s

Jetson AGX Orin 配备了大容量的LPDDR5内存，提供了高达205GB/s的带宽，支持复杂的AI模型和数据处理任务。

1.5 存储

eMMC: 64GB
可扩展存储: 支持外接NVMe SSD或SD卡

Jetson AGX Orin 内置64GB的eMMC存储，并支持通过NVMe SSD和SD卡扩展存储空间，以满足不同应用的存储需求。

二、安装JetPack SDK

Jetson AGX Orin 内置64GB的eMMC存储，并支持通过NVMe SSD和SD卡扩展存储空间，以满足不同应用的存储需求。

JetPack SDK是NVIDIA为Jetson平台提供的一套完整的软件开发工具包，包含了操作系统镜像、CUDA、cuDNN、TensorRT等。可以通过NVIDIA的官方网站下载JetPack SDK。

前往NVIDIA官方网站：
选择与你的Jetson设备兼容的JetPack版本，并下载SDK Manager。

下载完成得到sdkmanager_2.1.0-11682_amd64.deb安装包，并使用以下命令安装deb包：

cftc@cftc-virtual-machine:~/nvidia$
cftc@cftc-virtual-machine:~/nvidia$ ls
nvidia_sdk  sdkmanager_2.1.0-11682_amd64.deb  source
cftc@cftc-virtual-machine:~/nvidia$
cftc@cftc-virtual-machine:~/nvidia$
cftc@cftc-virtual-machine:~/nvidia$ sudo apt install ./sdkmanager_2.1.0-11682_amd64.deb

4、安装完成运行sdkmanager启动刷机软件

5、长按模块recovery按键1~3秒，上电，虚拟机自动检测到AGX-Orin otg设备：

6、配置选择，选择jetson设备，取消勾选host machine（避免安装到本机），target hardware选择jetson agx orin设备，勾选jetpack 5.1.3 SDK包、deepstream包，如下所示：

然后点击continue继续。

7、勾选各个组件，选择下载目录，勾选accept，点击continue继续。

8、开始自动下载sdk以及各个组件包，下载完成自动完成编译并刷机到AGX-Orin设备，整个操作将一键自动化完成。

下载包如下所示：

cftc@cftc-virtual-machine:~/Downloads/nvidia/sdkm_downloads$ pwd
/home/cftc/Downloads/nvidia/sdkm_downloads
cftc@cftc-virtual-machine:~/Downloads/nvidia/sdkm_downloads$
cftc@cftc-virtual-machine:~/Downloads/nvidia/sdkm_downloads$ ls
cuda-repo-cross-aarch64-ubuntu2004-11-4-local_11.4.19-1_all.deb  nvidia-container-runtime_3.9.0-1_all.deb                          Tegra_Linux_Sample-Root-Filesystem_R35.5.0_aarch64.tbz2
cuda-repo-l4t-11-4-local_11.4.19-1_arm64.deb                     nvidia-container-toolkit_1.11.0_rc.1-1_arm64.deb                  Tegra_Linux_Sample-Root-Filesystem_R36.3.0_aarch64.tbz2.mtd
cuda-repo-ubuntu2004-11-4-local_11.4.19-470.154-1_amd64.deb      nvidia-docker2_2.11.0-1_all.deb                                   userFeedbackData.json
cudnn-local-tegra-repo-ubuntu2004-8.6.0.166_1.0-1_arm64.deb      nvidia-l4t-jetson-multimedia-api_35.5.0-20240219203809_arm64.deb  vpi-cross-aarch64-l4t-2.4.8-cuda11-x86_64-linux.deb
cupva-2.3.0-l4t.deb                                              NVIDIA_Nsight_Graphics_L4T_Public_2023.2.23187_arm64.deb          vpi-demos-2.4.8-aarch64-l4t.deb
cupva-2.5.1-l4t.deb.mtd                                          NVIDIA_Nsight_Graphics_L4T_Public_2023.2.23187_x64.deb            vpi-demos-2.4.8-cuda11-x86_64-linux-ubuntu2004.deb
deepstream-6.3_6.3.0-1_arm64.deb                                 NVIDIA_Nsight_Perf_SDK_2023.3.1.tar.gz                            vpi-dev-2.4.8-aarch64-l4t.deb
hwdata                                                           NVIDIA_Nsight_Perf_SDK_Docs_2023.3.1.zip                          vpi-dev-2.4.8-cuda11-x86_64-linux.deb
Jetson_Linux_R35.5.0_aarch64.tbz2                                nvsci_1.0_x86_64.deb                                              vpi-lib-2.4.8-aarch64-l4t.deb
Jetson_Linux_R36.3.0_aarch64.tbz2.mtd                            nv-tensorrt-local-repo-l4t-8.5.2-cuda-11.4_1.0-1_arm64.deb        vpi-lib-2.4.8-cuda11-x86_64-linux.deb
libnvidia-container0_0.11.0+jetpack_arm64.deb                    OpenCV-4.5.4-8-g3e4c170df4-aarch64-dev.deb                        vpi-python3.8-2.4.8-aarch64-l4t.deb
libnvidia-container1_1.10.0-1_arm64.deb                          OpenCV-4.5.4-8-g3e4c170df4-aarch64-libs.deb                       vpi-python3.8-2.4.8-cuda11-x86_64-linux.deb
libnvidia-container-tools_1.10.0-1_arm64.deb                     OpenCV-4.5.4-8-g3e4c170df4-aarch64-licenses.deb                   vpi-python3.9-2.4.8-aarch64-l4t.deb
nsight-compute-2022.2.1_2022.2.1.6-1_amd64.deb                   OpenCV-4.5.4-8-g3e4c170df4-aarch64-python.deb                     vpi-python3.9-2.4.8-cuda11-x86_64-linux.deb
nsight-compute-2022.2.1_2022.2.1.6-1_arm64.deb                   OpenCV-4.5.4-8-g3e4c170df4-aarch64-samples.deb                    vpi-samples-2.4.8-aarch64-l4t.deb
nsight-compute-addon-l4t-2022.2.1_2022.2.1.6-1_all.deb           OpenCV-4.8.0-1-g6371ee1-aarch64-libs.deb.mtd                      vpi-samples-2.4.8-cuda11-x86_64-linux.deb
nsight-systems-2023.2.4.44-3301185-1_tegra_arm64.deb             sdkml3_deepstream_63.json
NsightSystems-linux-public-2023.2.4.44-3301185.deb               sdkml3_jetpack_513.json

sdk包路径如下所示：