什么是npu?

王尘宇 问题解答 46

  所谓npu其实就是嵌入式神经网络处理器,他采用的是“数据驱动并行计算”的架构,特别擅长处理视频、图像类的海量多媒体数据。

  NPU处理器专门为物联网人工智能而设计,用于加速神经网络的运算,解决传统芯片在神经网络运算时效率低下的问题。在GX8010中,CPU和MCU各有一个NPU,MCU中的NPU相对较小,习惯上称为SNPU。

  NPU处理器包括了乘加、激活函数、二维数据运算、解压缩等模块。

  乘加模块用于计算矩阵乘加、卷积、点乘等功能,NPU内部有64个MAC,SNPU有32个。

  激活函数模块采用最高12阶参数拟合的方式实现神经网络中的激活函数,NPU内部有6个MAC,SNPU有3个。

  二维数据运算模块用于实现对一个平面的运算,如降采样、平面数据拷贝等,NPU内部有1个MAC,SNPU有1个。

  解压缩模块用于对权重数据的解压。为了解决物联网设备中内存带宽小的特点,在NPU编译器中会对神经网络中的权重进行压缩,在几乎不影响精度的情况下,可以实现6-10倍的压缩效果。

  以上就是什么是npu?的内容。

发布评论 0条评论)

  • Refresh code

还木有评论哦,快来抢沙发吧~