rk3588部署，模型精度下降解决方法

今天我们来看一下人体关键点模型在国产 ai 芯片上的推理速度。首先训练一个人体关键点模型，使用 ct 加部署，此时推理的速度是四针，做一下模型的量化速度能长到十针，因为这个芯片有三个 npu， 我们可以使用多线程推理，此时浮点和量化模型的速度分别能长到二十七针和八十五针， 只是三个 npo 的负载是这样， cpu 的负载是这样，还可以替换激活函数，但是模型需要重新训练，此时浮点和量化模型的速度分别能达到四十九帧和一百帧。 如果你追求更高的速度，还可以尝试参数量更小的 n 模型。浮点和量化模型的速度分别可以达到一百零九帧和一百四十帧，但此时量化模型的关键点出现漂移，检测质量开始下降， npo 和 cpu 也基本榨干。最后我们还可以毒牛和推牛，并且在多个终端查看推理结果。

下面我们来看一下啊乌笨兔系统下的情况，那这块开发版呢？它出厂安装的是安卓十二，如果想要安装乌笨兔的话，需要连接数据线到电脑上，然后稍入镜像，速度是挺快的，一会就完成了。 官方提供的乌本兔版本呢是二十点零四，嗯，自带了 goom 桌面环境，我试了一下，基本上和在电脑上使用乌本兔的操作和体验是差不多的。嗯，操作上也是非常的流畅，但是部分软件的话是没有适配 m 架构的，所以有一些软件是没有办法运行的。然后他也自带了一个应用商店，但是需要注意，目前 snipe 的包是我这边是运行不了，我这边也安装了不少的软件，大家可以看一下，就比如说，呃，编程必备的 vf code 啊， 还比如说 v， 再比如说 linda 私下的最强和图片编辑软件 gimp， 再比如说 linda 下的 office liber office ppt 也是 ok 的。然后还可以玩扫雷，对对碰，各种小游戏基本上都不在话下。 说实话，这种经典游戏的话，无聊的时候玩一玩也还真的能玩个一天停不下来， 你还可以通过远程桌面去连接其其他电脑。我在乌笨兔下也跑了一下，进笨趣屋， 还不错，多和分数要稍微高一点，但是感觉上是和在安卓下区别不大啊。在这里友情提示一下，暂时不要使用官方的解变镜像，还是有一些问题的啊，可以再等一等，等官方修了八个之后再去尝试。

如果你要是嫌贵，其实还有更便宜的 r k 三五八八 s 芯片的开发版可以选，但是性能就没有那么极致了。经过我的实测， 性能有百分之十五左右的下降，而且砍掉了 p c i e 三点零乘以四这么大带宽的接口， l 接口和性能也有一定的减配，但是价格也是要更给力了。其实这俩芯片的定位， rk 三五八八 s 才是替换老芯片， rk 三三九九的这个可是卖货的主力选手，而 rk 三五八八则是承担了冲击高端市场的重任。 个人建议，如果你只是看上了 rk 三五八八的性能，那只需要买 rk 三五八八 s 就行了，没有必要花更多的钱。如果你需要速度很快的 nvme 接口，那 rk 三五八八还 还是你的不二之选。需要注意的是，最近 rook 五币有一定幅度的涨价，现在一千块已经买不到 rook 五币了，并且已经开始缺货。 rk 三五八八使用的是八纳米的工艺制成，显然目前还是得依赖于国外， 所以需要买的要抓紧机会了，之后啥情况还不一定呢，当然你还可以再等等等肉扣五 a 和 cm 五。 cm 五是 lc 三五八八 s 芯片的核心版，肉扣五 a 的具体情况还不清楚，但是也可以期待一下。