跳转到主要内容
--## 电子创新网图库均出自电子创新网,版权归属电子创新网,欢迎其他网站、自媒体使用,使用时请注明“图片来自电子创新网图库”,不过本图库图片仅限于网络文章使用,不得用于其他用途,否则我们保留追诉侵权的权利。 ##--

本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。
winniewei 提交于

本文将介绍基于米尔电子MYD-LR3576开发平台部署超轻量级推理框架方案:

TinyMaix摘自优秀创作者-短笛君

1.jpg

TinyMaix 是面向单片机的超轻量级的神经网络推理库,即 TinyML 推理库,可以让你在任意低资源MCU上运行轻量级深度学习模型。

关键特性

核心代码少于 400

(tm_layers.c+tm_model.c+arch_cpu.h), 

代码段(.text)少于3KB
低内存消耗支持 INT8/FP32/FP16 模型,实验性地支持 FP8 模型,支持 keras h5 tflite 模型转换支持多种芯片架构的专用指令优化: ARM SIMD/NEON/MVEIRV32P, RV64V
友好的用户接口,只需要 load/run 模型支持全静态的内存配置(无需 malloc )

同样地也可以部署到MPU平台上

RK3576平台相较于RK3588其主要缩减了四个A76大核改成了A72
GPU
也由原来的G610 MC4减为了G52MC3
NPU
功能保持变不变,均为6Tops
视频编解码也略有缩减其余各接口也砍掉了一部分主打极致性价比方案

说回正题,要运行TinaMaix 只需要简单几个步骤即可运行。首先确保系统安装了cmake gcc make工具:

克隆存储库[GitHub - sipeed/TinyMaix: TinyMaix is a tiny inference library for microcontrollers (TinyML).]

运行mnist手写数字识别任务

cd examples/mnistmkdir buildcd build cmake ..make./mnist

2.png

3.png

整个流程跑完仅仅需要0.14ms

可以看到soc平台强大的算力

mbnet
是适用于移动手机设备的简单图像分类模型,不过对单片机来说也稍微困难了些。例程里的模型是 mobilenet v1 0.25,输入 128x128x3 RGB图像,输出1000 分类的预测。它需要至少 128KB SRAM 512KB Flash

mkdir buildcd buildcmake ..make./mbnet

4.png

5.png

运行1000分类,耗费资源如下:
param “481,9 KB,0PS13,58 M0PS, buffer 96 0 KB

6.png

vww测试,主要是将图片信息转化为数组格式提供给网络输入。

7.png

手写数字识别的例程也是十分简单,只需要:

8.png

9.png

10.png

库文件已经是高度封装且兼容,所以很轻松地就可以在linux以及其它平台上移植,在RK3576这种高性能soc的加持下,可以发挥出更大的优势。

精彩推荐

2026英伟达GTC大会专题

CES 2026(国际消费类电子产品展览会)专题

第四届南渡江智慧医疗与康复产业高峰论坛

第十五届松山湖中国IC创新高峰论坛

第四届滴水湖中国RISC-V产业论坛

Recent comments

  • 1873774516_516738
  • 2460440665_516737
  • 1457585548_516736
  • 780289498_516735
  • 2283262460_516734