佳邦 INPAQ · 产品与技术资料捷比信主站 · 综合产品与服务
佳邦 INPAQ天线、保护与磁性元件
捷比信产品咨询0755-29796190

缓冲步骤以加载AI模型

当我们执行CNN模型推断时,我们需要预先从DDR或ROM加载AI模型。人们通常使用createfromfile的形式。
为了保护其模型IP,他们通常会对模型产生一些困惑。下面我们介绍另一种方法createfrombuffer。
在编译算法SDK的阶段,可以将AI模型编译为机器码,并且可以在加载算法时从堆栈存储器中加载算法。这样,模型的参数和定义将不会暴露给用户级别。
目前,MNN,NCNN和RKNN都提供了一个类似的createfrombuffer接口,非常方便用户使用。使用方法也非常简单。
该操作分为以下三个步骤:(1)生成十六进制模型文件(2)生成头文件和cpp文件(3)使用createfrombuffer加载模型1。生成十六进制模型该文件可以使用linux提供的xdd工具来完成。
生成十六进制模型文件。假设您具有已编译的mnn模型或rknn模型,则只要执行以下操作,就可以生成一个十六进制模型文件:xxd-iface _det.mnnface _det.cpp 2.生成头文件和cpp文件cpp文件是由xdd创建该工具已生成,文件格式如下(文件太大,仅前两个部分被截取):3.使用createfrombuffer接口实现模型加载。
我们以MNN接口为例。核心代码块如下:成功编译后,可以将AI固定到模型SDK的so库中。

相关资料

5G与普通人之间的距离有多远?蓝屏重启后黑屏解决方案OPPO宣布:10月19日将正式发布首款55和65两种尺寸的智能电视iOS14有一个内核漏洞MiBox是传统的Android电视机顶盒产品山东省积极推进新型智慧城市建设首批Snapdragon 888游戏手机! Black Shark 4预热:形状为“百万分之一”中国联通的第一台新5G机器在这里:代号U-MAGICTC-08温度数据记录仪的功能和应用优势华为Mate40 Pro荣获六项殊荣TiX580红外热像仪的性能特点和应用范围临界短脉冲vivo Y73s智能手机,摄像头模块升级破纪录!台积电第三季度收入激增!能提供华为吗?官方澄清华硕Lingyao X Xiaoyao笔记本屏幕色域评测,顶级! ! !Google Phone应用启动了Android One手机除LED调光器外,TRIAC还可以实现PID算法恒功率实现智能家居为人民服务什么是PWM调光接口电路?Win10计算器正式开源,已移植到Linux系统