适配NPU架构芯片的AI工具库rknn-yolo
·
rknn-yolo是yolov8 yolov11 yolo 移植到国产 瑞芯微 npu rknn 3568 3588 项目,可以进行AI目标检测,分割等,教科书般的代码案例。
说明
- 🚨 开源项目仅仅用于理解思路,逻辑,理念,入门启蒙,并非最佳性能
- 🚀 极简依赖,极简代码,一键运行,初学者专用,不依赖pytorch,安装包减少3GB
- ☔️ 全网唯一不会报错的开源代码,直接少踩半年坑,不用熬夜和焦虑
环境
python 3.12.xrk3588/rk3588srknn-toolkit 2.3.2yolov11n.rknn(yolov11n.pt -> yolov11n.onnx)兼容yolov8ubuntu 20.04、ubuntu 22.04、Debian 11
量化
- 模型如何量化(onnx -> rknn) : 看我另一篇文章
- C++ 版本可以加群讨论
开始
# 防止小白报错不知道原因,必须全程root账号
sudo su
git clone https://gitee.com/agricultureiot/rknn-yolo.git
# 防止小白报错不知道原因,必须给足授予权限
chmod -R 777 rknn-yolo/
安装python
# 防止小白不会安装python3.12,或者python不是3.12版本,老版本不用卸载
mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-py312_25.7.0-2-Linux-aarch64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm ~/miniconda3/miniconda.sh
source ~/miniconda3/bin/activate
conda init --all
python --version
安装项目
# 本项目只能在3588开发板中运行,无法在pc和服务器上运行
cd rknn-yolo
# 替换 rknn npu api 运行时驱动,防止不是2.3.2版本,仅需执行一次即可
cp -f lib/librknnrt.so /usr/lib
apt update
apt install ffmpeg
apt install gcc
# 安装项目依赖
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
推理图片
# 运行后查看控制台输出
python src/main.py
推理视频
# 需要真实摄像头和流媒体服务,填写rtsp/rtmp地址
python src/video.py
目标跟踪
# 需要真实摄像头和流媒体服务,填写rtsp/rtmp地址
python src/video_track.py
备注
- 使用进程池或线程池可以加快速度
- python NPU线程池性能可以到100+帧
硬件加速
- https://github.com/airockchip/librga
- https://github.com/rockchip-linux/mpp
更新计划
- 🕑 多线程多进程多核心队列并发推理开发中
- 🕑 编解码硬件加速python版调试中
链接
- 目标跟踪算法:https://gitee.com/agricultureiot/easy-byte-track
更多推荐


所有评论(0)