Banana Pi BPI-F3 进控时空 K1开发板 AI人工智能AI 部署工具使用手册_bianbu software-CSDN博客
文章置顶了
有兴趣的可以一起留言探索,非常有意思:
我最近接触到了进迭时空研发的 Spacengine™,这是一套能在进迭时空 RISC-V 系列芯片上部署 AI 算法模型的工具。它让模型部署变得更简单,还能提升模型在芯片上的运行速度。下面是我了解到的主要内容:
- 工具组成:这个工具主要包含三部分。一是工具集,里面的命令都以 spine 开头,比如 spine convert 能转换和量化模型,spine simulate 可以在电脑(x86 平台)上进行模型测试,spine helper 能提供各种辅助功能;二是 AI 引擎,它能把模型高效地部署到芯片上;三是示例包,里面有很多模型示例,能帮我快速熟悉和使用这款工具。
- 部署步骤:部署 AI 模型需要四个步骤。首先是模型转换,能把不同框架的模型转换成特定格式;然后是模型量化,能让模型在芯片上跑得更快,而且量化操作不难,按照说明做就行;接着在电脑上进行仿真测试,看看模型效果怎么样,这个测试结果和在芯片上运行的结果是一样的;最后,根据前面测试的结果,在芯片上开发具体的应用程序。
- 快速开始使用:使用这个工具需要先搭建开发环境,有两种选择,一种是用 Docker,另一种是在本地手动配置。我觉得 Docker 更方便,按照步骤安装好 Docker 后,下载相关镜像,创建并进入容器就能使用了。另外,还有个 quick_start 脚本,能帮我快速熟悉整个部署流程。
- 模型操作细节:模型转换支持好几种常见的框架,还能对特定格式的模型做一些特殊操作。模型量化工具和转换命令结合在一起,通过一个配置文件就能完成量化,量化完会生成新的模型文件和分析文件。仿真测试有两种方式,而且还有一些辅助工具能帮我完成像查看模型信息、对比数据等操作。
- 在芯片上部署和开发应用:在正式把模型部署到芯片上之前,要先测试模型的性能,看看它在芯片上跑得怎么样。部署工具的 SDK 包里有个库,能帮我快速开发应用,里面有很多示例程序,按照说明编译和运行就行。我还了解了一些使用过程中常见问题的解决办法。
- 模型库:进迭时空有个模型库,里面有分类、检测和姿态相关的模型,每个模型都标注了精度、运行时间和下载地址,方便我挑选。