香橙派AIpro如何赋能AI+边缘流媒体设备

devtools/2024/9/22 16:45:56/

文章目录

  • （一）前言
  • （二）AI边缘流媒体设备展示
  • （三）赋能AI边缘流媒体设备
    • 1、准备开发环境
    • 2、在板子中下载编译安装SRS
    • 3、基本推拉流测试
    • 4、多路推流性能测试
  • （四）一些注意事项
    • 1、开发板介绍
    • 2、官网手册
    • 3、连接电脑
    • 4、体验AI能力
    • 5、具有linux烧录能力
    • 6、视频编解码API接口
  • （五）总结

（一）前言

今天香橙派AIpro终于到我手上了，因为我的主要领域是做嵌入式音视频的，例如相机类产品，录像类产品，直播类产品都是我所涉及到的。本片文章一起来开箱见证下香橙派AIpro的超能力，据说很强。强只是一方面，对于一个嵌入式领域的开发者来说，强不代表一切，还要关注硬件的资料是否全，各种文档是否详细，技术售后支持是否到位。等一系列因素，如果有一个不太好，就会在整体行程中耽搁大事。一起来看下关于音视频领域的东西，这个香橙派AIpro可以做什么事情！！！

（二）AI边缘流媒体设备展示

设备中流媒体的推和拉流部分：
image.png

下一步可以把AI接入SRS，做视频流的智能检测。

在流媒体这个领域的基础上可以把大疆的流接入，大疆我研究过，它们支持rtmp的推流，这个时候，就可以推到边缘媒体设备中赋能AI。可以做一些AI智能剪辑，AI直播，AI美化，AI包装。可以针对语音做AI美化等超技能！！！
image.png

也可以做AI导播设备，推到AI边缘流媒体设备后，该设备可以包装AI数字人，AI自动多国语言翻译，AI自动生成字幕等，该设备再把视频流转发到B站，快手，抖音，视频号、Youtube、Facebook等流媒体直播平台。一个设备可以节省一大笔钱，有了设备就不用每个月甚至每年去交一些费用，因为设备通常是一次性就付清了，永久使用的。

（三）赋能AI边缘流媒体设备

因为我所做的行业就是视频流，流媒体，流协议，直播协议相关的。所以想把香橙派AIpro做为一个边缘流媒体设备性能指标如何！！！

我们尝试把SRS这个开源项目部署到设备中。

SRS在音视频领域是一个神一样的存在，国人开源项目：
SRS(Simple Realtime Server)是一个简单高效的实时视频服务器，支持RTMP、WebRTC、HLS、HTTP-FLV、SRT等多种实时流媒体协议。Oryx是一个一体化、开箱即用、开源的视频解决方案，可部署在云上或自建机房，以直播和WebRTC等能力赋能你的业务。

1、准备开发环境

找到下载的交叉编译工具链：
image.png

解压出来：

tar -zxvf toolchain.tar.gz

为了防止之后出现中文路径导致的错误，可以创建一个英文目录，然后把解压后的交叉编译工具链移动过去：

zhenghui@zh-pc:交叉编译工具链$ mkdir /data/softInstall/aipro
zhenghui@zh-pc:交叉编译工具链$ mv toolchain /data/softInstall/aipro/
zhenghui@zh-pc:交叉编译工具链$

这就是交叉编译工具了：

zhenghui@zh-pc:交叉编译工具链$ ls /data/softInstall/aipro/toolchain/bin/
aarch64-target-linux-gnu-addr2line  aarch64-target-linux-gnu-gcc-7.3.0   aarch64-target-linux-gnu-ld.bfd
aarch64-target-linux-gnu-ar         aarch64-target-linux-gnu-gcc-ar      aarch64-target-linux-gnu-nm
aarch64-target-linux-gnu-as         aarch64-target-linux-gnu-gcc-nm      aarch64-target-linux-gnu-objcopy
aarch64-target-linux-gnu-c++        aarch64-target-linux-gnu-gcc-ranlib  aarch64-target-linux-gnu-ranlib
aarch64-target-linux-gnu-c++filt    aarch64-target-linux-gnu-gcov        aarch64-target-linux-gnu-readelf
aarch64-target-linux-gnu-cpp        aarch64-target-linux-gnu-gcov-dump   aarch64-target-linux-gnu-run
aarch64-target-linux-gnu-elfedit    aarch64-target-linux-gnu-gcov-tool   aarch64-target-linux-gnu-strings
aarch64-target-linux-gnu-g++        aarch64-target-linux-gnu-gprof       aarch64-target-linux-gnu-strip
aarch64-target-linux-gnu-gcc        aarch64-target-linux-gnu-ld
zhenghui@zh-pc:交叉编译工具链$

可以配置环境变量：

可以把PATH加在启动脚本中

vim ~/.bashrc
export PATH=$PATH:/data/softInstall/aipro/toolchain/bin/

image.png

image.png

2、在板子中下载编译安装SRS

说明：

为什么这里直接在板子里做下载、编译、安装？
这个问题只有真正做过嵌入式软件开发的程序员理解，天天被交叉编译，各种依赖关系折磨疯了。因为香橙派Aipro刚好是直接安装的一个完整的Ubuntu操作系统，所以里面是带gcc和g++编译工具的，还有gdb、cmake等都可以安装和使用。编译起来自然很方便，所以大胆的尝试下和享受下这个方案。

在开发板里创建个目录我们存放自己的东西：

(base) root@orangepiaipro:~# mkdir soft
(base) root@orangepiaipro:~# 
(base) root@orangepiaipro:~# cd soft/
(base) root@orangepiaipro:~/soft#

git命令下载东西：

(base) root@orangepiaipro:~/soft# git clone -b develop https://gitee.com/ossrs/srs.git
Cloning into 'srs'...
remote: Enumerating objects: 84225, done.
remote: Counting objects: 100% (84225/84225), done.
remote: Compressing objects: 100% (20701/20701), done.
remote: Total 84225 (delta 65493), reused 81148 (delta 62830), pack-reused 0
Receiving objects: 100% (84225/84225), 236.12 MiB | 11.00 MiB/s, done.
Resolving deltas: 100% (65493/65493), done.
Updating files: 100% (5545/5545), done.
(base) root@orangepiaipro:~/soft#

进入编译：

(base) root@orangepiaipro:~/soft# cd srs/
(base) root@orangepiaipro:~/soft/srs# ls
CONTRIBUTING.md  Dockerfile  LICENSE  README.md  SECURITY.md  trunk
(base) root@orangepiaipro:~/soft/srs# 
(base) root@orangepiaipro:~/soft/srs# cd trunk/
(base) root@orangepiaipro:~/soft/srs/trunk# 
(base) root@orangepiaipro:~/soft/srs/trunk# ./configure

提示缺少automake：

apt install -y automake

安装好，继续执行configure

成功了：
image.png

执行make -j10编译

(base) root@orangepiaipro:~/soft/srs/trunk# make -j10

编译也成功：
image.png

运行测试：

(base) root@orangepiaipro:~/soft/srs/trunk# ./objs/srs -c ./conf/srs.conf 
[2024-07-03 22:06:58.261][INFO][25867][kuf4m073] XCORE-SRS/6.0.129(Hang)
[2024-07-03 22:06:58.262][INFO][25867][kuf4m073] config parse complete
[2024-07-03 22:06:58.262][INFO][25867][kuf4m073] you can check log by: tail -n 30 -f ./objs/srs.log
[2024-07-03 22:06:58.262][INFO][25867][kuf4m073] please check SRS by: ./etc/init.d/srs status
(base) root@orangepiaipro:~/soft/srs/trunk# 
(base) root@orangepiaipro:~/soft/srs/trunk#

可以使用ps命令查看是否运行成功：

(base) root@orangepiaipro:~/soft/srs/trunk# 
(base) root@orangepiaipro:~/soft/srs/trunk# ps -aux |grep srs
root       25869  0.1  0.2 104400 17288 pts/0    Sl   22:06   0:00 ./objs/srs -c ./conf/srs.conf
root       25879  0.0  0.0   9124  2132 pts/0    S+   22:07   0:00 grep --color=auto srs
(base) root@orangepiaipro:~/soft/srs/trunk#

因为srs server的默认端口是8080，所以我们可以在任何地方访问8080：
image.png

可以看到这台设备的信息：
image.png

3、基本推拉流测试

使用ffmpeg推流rtmp测试：

ffmpeg -re -i 1080P.mp4 -c copy -f flv rtmp://192.168.1.15/live/av1

同时也可以使用ffplay播放：

ffplay rtmp://192.168.1.15/live/av1

image.png

4、多路推流性能测试

测了12路流：
image.png

可以看到入口代码都40多Mbps：
image.png

CPU和负载都没怎么增长。
image.png

（四）一些注意事项

1、开发板介绍

Orangepi的官网：http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/details/Orange-Pi-AIpro.html

对于初学者来说，这个板子的每一个孔，每一个螺丝都应该知道有什么作用，这一点做的还是不错的：


官网介绍说：
OrangePi AIpro(8-12T)采用昇腾AI技术路线，具体为4核64位处理器+AI处理器，集成图形处理器，支持8-12TOPS AI算力，拥有8GB/16GB LPDDR4X，可以外接32GB/64GB/128GB/256GB eMMC模块，支持双4K高清输出。 Orange Pi AIpro引用了相当丰富的接口，包括两个HDMI输出、GPIO接口、Type-C电源接口、支持SATA/NVMe SSD 2280的M.2插槽、TF插槽、千兆网口、两个USB3.0、一个USB Type-C 3.0、一个Micro USB（串口打印调试功能）、两个MIPI摄像头、一个MIPI屏等，预留电池接口，可广泛适用于AI边缘计算、深度视觉学习及视频流AI分析、视频图像分析、自然语言处理、智能小车、机械臂、人工智能、无人机、云计算、AR/VR、智能安防、智能家居等领域，覆盖 AIoT各个行业。 Orange Pi AIpro支持Ubuntu、openEuler操作系统，满足大多数AI算法原型验证、推理应用开发的需求。

看到支持MIPI摄像头，还支持2个；看到支持视频流AI分析，视频图像分析；支持两个HDMI输出顿时兴趣翻倍，但是如果有个HDMI输入就好了。

如果官方人员能看到的话，希望加个HDMI输入哦，这样就可以接入一些HDMI输入源了，可以做很多视频分析的场景和应用！
如果官方人员能看到的话，希望加个HDMI输入哦，这样就可以接入一些HDMI输入源了，可以做很多视频分析的场景和应用！
如果官方人员能看到的话，希望加个HDMI输入哦，这样就可以接入一些HDMI输入源了，可以做很多视频分析的场景和应用！

2、官网手册

http://www.orangepi.cn/html/hardWare/computerAndMicrocontrollers/service-and-support/Orange-Pi-AIpro.html
image.png

可以看到文档不算太多，才153页
image.png

但是还是挺细致的，从目录来看步骤挺全的：
image.png

3、连接电脑

看文档里描述，支持多种连接电脑的方式：
1、SSH远程；
2、串口方式：4pin串口线和Micro USB数据线；
3、HDMI显示器；

官方提供了多种方式可以让你选择，我特意使用了Micro USB接口的数据线连接串口。

image.png

就随便找了一根，连接成功了：
image.png

连接的时候如何已经开机了，会什么都不打印，回车即可看到都命令行，输入相应的账号和密码即可登录成功：
image.png

接入HDMI也很方便，插上即可工作，然后插入鼠标和键盘即可干活了。

4、体验AI能力

因为香橙派官方的镜像中提供了juypter lab的环境，而且写了部分案例可以测试。

如果你登录的是非HwHiAiUser用户的账号，需要cd到HwHiAiUser的家目录下 /home/HwHiAiUser/

(base) root@orangepiaipro:/home/HwHiAiUser/samples/notebooks# pwd
/home/HwHiAiUser/samples/notebooks
(base) root@orangepiaipro:/home/HwHiAiUser/samples/notebooks#

因为AI相关的samples都在这个用户下。

/home/HwHiAiUser/samples/notebooks目录下有个start的启动脚本：
image.png

运行脚本启动：
image.png

发现在我PC机电脑上无法访问：
image.png

探究了原因，是因为这个启动脚本：
image.png

启动脚本中接收了参数设置为ip，如果没有参数就使用默认的127.0.0.1
image.png

此时就不用局限在板子外接显示器，鼠标，键盘了。
此时其他你工作的电脑上即可访问：
image.png

如果你一开始像我一样，直接输入了ip+端口8888，此时需要让你输入密码或者token：
image.png
token就是命令行中提示的。

登录成功后的界面：
image.png

进入到02-ocr中测试下ocr的能力如何：
image.png

运行：
image.png

结果：

可以看到结果很快就出来了

image.png

可以换一个自己的图片试试:

上传自己的图片：
image.png

修改ocr用例的名字：
image.png

我上传了一个挺复杂的：
image.png

image.png

5、具有linux烧录能力

官方提供了多种烧录的工具：
image.png
做为开发者这么多年，很少见支持Linux下烧写的工具，好奇心加6666+；

image.png

Ubuntu上烧写测试

刚好我比较习惯在Ubuntu上开发。

1、.AppImage的软件可以直接打开：
image.png

1、选择烧录的LInux镜像
需要提前下载好自己需要烧录的镜像：
image.png

我本次使用的是openneuler镜像：
image.png

2、选择TF卡盘
image.png

3、开始烧写到TF卡中：
image.png

有点慢：提示Successful说明成功了
image.png

插卡启动。

新系统的界面变了，成功了：
image.png

密码：Mind@123

6、视频编解码API接口

https://www.hiascend.com/document/detail/zh/canncommercial/63RC1/inferapplicationdev/aclcppdevg/aclcppdevg_000083.html

很详细：
image.png

针对做音视频开发的人员来说，接口流程和函数介绍所有的文档几乎都有。

（五）总结

总体体验下来还是不错的，由于时间和文章篇幅的问题，本文就记录到此为止，下面多方面来总结下。

  • 1、板子接口齐全，功能接口也足够使用了，可以做一些智能小车什么的都绰绰有余，学生党可以使用这个参加各种机器类的比赛，爱好者也可以使用这个研究自己领域的东西；
  • 2、文档资料齐全，只是不太好找而已，全是挺全的，没有写明你在哪里可以找到，需要自己探索寻找的过程；
  • 3、特别留意了下烧写系统的方法，windows，mac，linux都支持烧写，这一点对Ubuntu爱好者比较友好，比如我家用电脑就是Ubuntu的，在这上面工作，开发，学习都很方便；
  • 4、因为板子的AI处理能力非常强，再加上这一版的就有8T的算力，可以做很多AI+N的应用；

http://www.ppmy.cn/devtools/57192.html

相关文章

vue 组件el-tree添加结构指示线条

vue 组件el-tree添加结构指示线条

效果展示: 注意&#xff1a;组件中需要添加:indent"0" 进行子级缩进处理&#xff0c;否则会出现子级缩进逐级递增 :expand-on-click-node"false" 设置点击箭头图标才会展开或者收起 代码&#xff1a; <el-tree class"tree filter-tree" :da…
阅读更多...
Java web应用性能分析之【prometheus监控K8s指标说明】

Java web应用性能分析之【prometheus监控K8s指标说明】

常规k8s的监控指标 单独 1、集群维度 集群状态集群节点数节点状态&#xff08;正常、不可达、未知&#xff09;节点的资源使用率&#xff08;CPU、内存、IO等&#xff09; 2、应用维度 应用响应时间 应用的错误率 应用的请求量 3、系统和集群组件维度 API服务器状态控…
阅读更多...
行人检测技术：思通数科大模型在自动驾驶安全中的应用

行人检测技术：思通数科大模型在自动驾驶安全中的应用

在自动驾驶技术飞速发展的今天&#xff0c;行人检测已成为确保道路交通安全的关键技术之一。本文将探讨如何结合思通数科大模型和计算机视觉技术&#xff0c;实现在城市交通环境中对行人的高效检测&#xff0c;为自动驾驶车辆提供必要的行人安全保障。 引言 行人检测技术是利…
阅读更多...
python-字典

python-字典

为什么需要字典 字典的定义 字典数据的获取 字典的嵌套 嵌套字典的内容获取 字典的注意事项&#xff1a; 字典的常用操作 新增元素 更新元素 删除元素 清空字典 汇总 字典的特点
阅读更多...
Android常用加解密算法总结

Android常用加解密算法总结

Android开发中对于数据的传输和保存一定会使用加密技术&#xff0c;加密算法是最普遍的安保手段&#xff0c;多数情况数据加密后在需要使用源数据时需要再进行解密&#xff0c;但凡是都有例外。下面从可逆加密、不可逆、不纯粹加密三种方式记录一下常见的加解密算法。 加密技术…
阅读更多...
分析Profiler Timeline中的算子序列,通过寻找频繁项集的办法,得到TOPK可融合的算子序列

分析Profiler Timeline中的算子序列,通过寻找频繁项集的办法,得到TOPK可融合的算子序列

分析Profiler Timeline中的算子序列,通过寻找频繁项集的办法,得到TOPK可融合的算子序列 1.相关链接2.代码【仅分析带通信算子的Pattern】3.在实际工程中发现 [all_gather, matrix_mm_out]频率最高4.[Ascend MC2](https://gitee.com/ascend/MindSpeed/blob/master/docs/features…
阅读更多...
Excel+vue+java实现批量处理功能

Excel+vue+java实现批量处理功能

需求背景: 产品创建流程比较复杂&#xff0c;有时候需要一次性创建多至10个&#xff0c;所以做了Excel维护产品信息&#xff0c;直接导入创建的功能。能极大提高效率。 简要概括实现&#xff1a; 一、参考单个创建&#xff0c;设计创建模板&#xff0c;表头对应填写字段名&…
阅读更多...
详解 HTTP 中间人攻击

详解 HTTP 中间人攻击

什么是中间人攻击&#xff1f; 攻击者将自己插入通信过程中&#xff0c;以窃取&#xff0c;篡改数据。通信的两端不知道中间人的存在&#xff0c;他们以为在与对方直接通信&#xff0c;实际上他们的通信已经被监听或干扰。WIFI 路由器被破解之后就能进行中间人攻击。 中间人攻…
阅读更多...
最新文章

Copyright @ 2022~2023