RK3588部署Qwen3运行第一个Demo

1. 在rk3588主板上安装Ubuntu 20.04

2. 打开 瑞芯微（Rockchip）官方提供的 “预转换大模型仓库”

https://meta.box.lenovo.com/v/link/view/ad7482f6712844b48902f07287ed3359 提取码：rkllm

3. 下载demo_Linux_aarch64

4.下载最新的1.2.3下边的Qwen3-VL-2B下的所有文件

qwen3-vl-2b-instruct_w8a8_rk3588.rkllm # 语言模型

qwen3-vl-2b_vision_rk3588.rknn # 视觉模型

5.复制demo_Linux_aarch64到板端用户目录，并在上边创建models文件夹，将上边的rkllm和rknn复制到models下边

6. 设置环境变量

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:~/demo_Linux_aarch64/lib

7.运行瑞芯微的推理程序

./demo ./demo.jpg ./models/qwen3-vl-2b_vision_rk3588.rknn ./models/qwen3-vl-2b-instruct_w8a8_rk3588.rkllm 512 1024 0 “你好，介绍一下你自己”

8.user: 是用户输入的内容（你刚才输入的 “你好，介绍一下你自己”）；robot: 是模型的回复内容；