为差异化AIoT应用提供G PU 和神经网络加速器IP

　　Andrew Grant（Imagination Technologies人工智能产品营销 资深总监）

　　1 为AIoT提供神经网络加速器

　　Imagination Technologies专注于边缘和终端上的人工智能物联网（AIoT）。我们创建半导体知识产权（IP），SoC设计人员使用它们来开发用于边缘设备的芯片。我们可以为神经网络增加加速功能，以使它们能够在终端上快速运行，进而增强边缘的能力。在某些AI任务中，神经网络加速器（NNA）的性能是典型嵌入式CPU的100倍，从而将以前只有在数据中心才能实现的性能直接带给终端用户。

　　我们看到的趋势是，随着“网络边缘”逐步涵盖智慧城市、机器人流程自动化（RPA）和用于安防监控的智能摄像头等智能设备，这一点正变得越来越重要。通过开发可用于边缘同时占用最小芯片面积的全能型IP，将推动新一波边缘设备面世。

　　2 如何简化AIoT终端设备的设计

　　简化物联网（IoT）终端设备的需求就是将功能整合到尽可能小的芯片面积中，以节省芯片成本。Imagination的IP（GPU和NNA）具备的灵活性和支持的功能，意味着能以极低的功耗为边缘推理增加加速性能，这对于AIoT设备而言是非常理想的。

　　如今机器学习和边缘AI的创新速度十分迅速，意味着几乎每天都有新的进展。通过与主要框架的开发人员和终端用户市场保持紧密联系，Imagination一直身处于创新方法的前沿。Imagination不断更新自己的软件驱动程序，以利用新的技术进展和层操作运算方法。

　　3 针对具体应用的差异化方法将是人们渴望实现的最终目标

　　今天，市面上仍有8位、16位MCU，并新出现了RISC-V MCU。实际上，尽管纯粹的性能始终是业界关键的成功因素之一，但针对具体应用采用差异化和优化的方法将是人们渴望实现的最终目标。

　　无论如何，探求灵活的、可用于众多领域的IP是非常重要的，同时使用可组合在一起以实现更高性能的IP构建模块将是一个决定性因素。Imagination的AISynergy就是这方面一个很好的例子，利用AI Synergy技术，各层可以在NNA上加速，同时浮点运算和自定义层可在GPU上运行。通过使用Imagination的Hyperlane技术中预留的HyperLane通道，在保护任何图形输出的同时，还可以运行其他计算任务。