瑞萨AI终端问题解决方案

作者/瑞萨电子中国董事长 真冈朋光

一般人们提到的“实时响应的边缘AI”是指达到人类的实时响应水平（ｍSec/毫秒级)，边缘是指边缘计算。而驱动整个社会、与传感和控制结合的产业的运转，则要求μSec（微秒级）的实时响应。为了将该领域与边缘计算区别开来，我们称之为终端（Endpoint）。作为在边缘计算与终端（Endpoint）上运行的AI加速器，最近有学者和公司提出了一种新的计算架构方案，即比较在相同耗电量下通过深度神经网络执行性能的数据。这是想解决设备通过云端、服务器进行学习的高耗电问题。

挑战

而针对终端（Endpoint）上的AI执行，为了适配嵌入式系统，除了耗电问题以外，还有其他需解决的课题。

首先，将通过云端开放资源学习过的AI导入嵌入式系统的内存资源有限。

其次，需要准备、提供适合执行AI的最优设备。

再次，不仅是单纯处理，为实施实时性能、控制，还需具备安全性和可靠性。

解决方案

瑞萨电子在终端（Endpoint）上嵌入AI，称为「e-AI」，即Embedded Artificial Intelligence的简称。瑞萨从去年开始免费开放了叫做「e-AITranslator」的工具。这是可将通过Caffe、TensorFlow学习过的AI，嵌入到所有MCU/MPU的压缩工具。瑞萨电子拥有业界高品质的MCU/MPU产品线，通过该工具，根据执行AI的大小，从丰富的产品线中选择适配产品。

瑞萨电子拥有针对嵌入式系统开发、经过市场验证的产品。可支持实时处理、进行控制、安全可靠的产品上运行AI。客户在制造设备中实施的流程管理、设备管理、预测性维护、安全管理，可即刻使用AI。在瑞萨自己的工厂中，也已在制造设备中安装使用了AI，在其他一些大客户的设备上也进行了推广使用。

瑞萨考虑不仅在CPU，而且在终端（Endpoint）中支持AI的应用需求。瑞萨将针对AI提供其独特的处理器DRP(Dynamically Reconfigurable Processor)。就并行性而言，DRP优于CPU；而就耗电量而言，DRP又优于难以将全部数据导入的GPU（Graphics ProcessingUnit)。在相同耗电量的条件下，其测量结果是CPU的100倍以上，GPU的10倍以上。

此外，与FPGA (Field-Programmable Gate Array)不同，开发无需硬件设计人员，AI的更新也容易。

通过使用DRP，客户将AI的识别功能应用于相机、机器人、AR眼镜。现在已经有不少客户在其新产品中积极推广使用该技术。

瑞萨电子在其独有产品SOTB（Si On ThinBuried-oxide）上也支持e-AI。通过利用该技术，可将MCU的工作电流大幅降低至1/10，待机电流降低至1/100. 该技术不仅可大幅延长电池寿命，还可利用热能、振动、光、无线电波等能量转换成电源的系统操作成为可能。对于传感器网络和健康看护可穿戴设备而言，通过在SOTB上嵌入e-AI，搭建仅将AI识别判断后的结果传输的系统成为可能，从而大幅节电。现在很多顾客开始探讨用SOTB来替代从前系统中的电池。

瑞萨电子将以上技术统括称呼为“终端智能（Endpoint Intelligence）”，不断强化开发，进而早日实现智能社会、互联世界。