传感器端也能实现AI推理　

作者 王莹

　　网络边缘计算革命蓄势待发，不过，只有具备AI系统专长的开发人员方可驾轻就熟。随着用户寻求更高级别的智能，对于靠近IoT(物联网)数据源的低功耗推理的需求将与日俱增。这些传感器端，尤其是超低功耗的传感器端如何实现人工智能?

　　近日，莱迪思半导体公司推出了超低功耗 Lattice SensAI。公司亚太区资深事业发展经理陈英仁先生称其低功耗FPGA将与MCU(微控制器)竞争，主攻低功耗、对计算精度要求不是很高、低成本、小尺寸的嵌入式AI市场。

哪些场景需要传感器“AI推理”?

　　如果说控制是rule driven(规则驱动)，那么AI是data driven(数据驱动)的。众所周知，AI主要做培训和推理。云端做培训较多，莱迪思定位的传感器端AI只做推理，“这些毫瓦级功耗FPGA将为机器学习推理在大众市场物联网应用中实现快速部署创造机遇。”

图1  sensAI的核心是倒数第二行的“IP核”和第三行的“软件工具”

　　就像做寿司的师傅的手指运动，许多手指动作无需传到大脑，是有经验的习惯性动作。同样，有些推理也无需传到云端或用复杂的计算芯片，例如人在室内静止不动，智能照明系统有可能没有发现人而自动关闭，如果有低功耗的人脸检测就不会发生这种事了。智能门锁通常用红外感测，人走近密码小门打开，但狗或动物走近，也会打开，人脸检测能感测到人走近，密码小门才会打开。超市可以用人脸检测统计人流，或识别性别以推送个性化广告等。再有，智能音箱通常是联网的，需要云端处理，有时为了隐私安全，也希望一些音乐存在音箱里，在线下就能控制和听音乐。有时近似的声音听不了，例如音箱知道“你好”，有时你叫“李浩”，音箱也会有所反应，因此就要给音箱一些小智慧。工厂中的马达声音有异常，上传到云端来不及，传感器端就可立即做出应急反应。

　　具体地，如何教给音箱识别“你好”和“李浩”?就像训练小孩一样，可以说：“李浩，你好。”或：“李浩不是你好”。只要有足够多的样本去描述要检测的目标，AI音箱就可以学会，变成一个算法。

sensAI是什么?

　　Lattice sensAI是一种结合模块化硬件套件、神经网络IP核、软件工具、参考设计和定制化设计服务的完整技术集合，旨在促进机器学习推理的大众市场 IoT应用。如图1，sensAI的核心主要是倒数第二的“IP核”和第三行的“软件工具”。

　　Lattice sensAI提供经优化的解决方案，具有超低功耗(低于 1 mW~1 W)、封装尺寸小(5.5~100 mm2)、接口灵活(诸如MIPI® CSI-2、LVDS、GigE 等)和批量价格低(约 1~10 美元)等优势，可加速实现更接近数据源的网络边缘计算。

图2   sensAI的市场定位

　　从图2可见，Lattice sensAI的主要竞争者是MCU。与MCU相比，Lattice sensAI的优势是灵活支持各类传统接口，且功耗极低，只有1 mW~1 W。

　　适用于解决网络边缘的计算问题，Lattice sensAI优势包括：1.模块化硬件平台—— 基于 ECP5™器件的视频接口平台(VIP)，包括嵌入式视觉开发套件和基于 iCE40 UltraPlus™器件的移动开发平台(MDP);2.IP核——卷积神经网络(CNN)加速器和二值神经网络(BNN)加速器;3.软件工具——从 Caffe/TensorFlow到 FPGA的神经网络编译器工具、Lattice RadiantTM 设计软件和 Lattice Diamond设计软件;4.参考设计——人脸检测、关键词检测、对象计数、面部跟踪和速度标志牌检测;5.设计服务。