AI效益发威 边缘人工智能持续进化

虽然人工智能还是有一些缺点，但在今天仍旧对作业质量和生产力带来重大的影响性。无论是医疗保健、国防，还是电子商务，都可以透过人工智能系统实现大规模的自动化。

另一方面，在物联网设备市场规模呈现指数级成长背景下，各种的大量数据被产生出来，进而推动了边缘运算技术的发展。边缘运算是云端整体运算系统的重要组成部分，可以将部分的特殊处理和数据储存，从云端系统转移到边缘网络节点，而这些节点在物理基础上，可以合理地就近将数据提供给终端用户。

这种「终端式」的人工智能系统，不需要连接到云端执行本地的任务和操作。相反，这些单位都拥有独立处理数据，和做出决定的能力。因此，边缘运算是将人工智能的力量带到单一的设备上，透过内建的微处理器和传感器来获得和处理数据。

边缘计算＋人工智能＝边缘人工智能
伴随着边缘运算、人工智能和物联网的快速发展，使得各种多个智能网络间连接技术不断地被开发出来，这也被称为Edge AI、Edge AIoT（Artificial Intelligence of Things），或智慧物联网（图一）。目前，已经有许多企业计划采用边缘运算与人工智能相结合的方式来提高效率，进而降低生产/服务的整体成本。例如，只要使用设备之间的传感器，或实时视讯传输来获取数据，并提供实时监视能力来预见各种问题，防止因为错误导致代价高昂的损失，或工作场所的伤害。

根据业界推估，目前生产过程中，因为设备的突发性停机所造成的损失，每年约为500亿美元。这也将造成生产能力的降低、出货延误、客户抱怨，以及收入减少。而这时，Edge AI就可以发挥出关键作用。


 
图一 : 传统的AI应用与Edge AI的比较（数据源:i Magazine、CTIMES整理）

典型的Edge AI导入趋势
在未来，虽然Edge AI的应用，虽然可以帮助企业减轻网络和其他IT基础设施的负荷，并帮助降低营运成本，但仍需依赖硬件和软件的不断改进来获得更先进的系统。

例如，透过工厂生产在线设备，或连接互联网的摄影系统，可以将实时影像发送给远程的办公室。从单一设备或端点进行数据的传输，以今天的网络技术来说是相当容易的。但是，面对同时传输数据的设备数量增加时，瓶颈挑战就出现了，因为当成千上万组的摄影终端同时进行传输时，不仅影像质量会因为延迟而受到影响，而且维护该传输带宽的成本也会非常高。

不过，现在已经能透过Edge AI克服上述挑战，可以利用设备本身来分析所获得的资料，而不是将数据发送到云端或中央位置，处理完毕之后再分析的结果储存在云端系统后，来产生完整的生产线监控能力，因此利用终端的力量就可使企业更有效地利用剩余网络资源。此外，在Edge AI的帮助下，工厂设备更可以在现场执行大部分的分析工作，可以大大减少需要通过网络传输的数据，从而降低因为云端运算所产生的成本、提高分析速度，这就是利用Edge AI的主要优势（图二）。



 
图二 : 在生产在线进行视讯分析系统的简单说明（数据源:ACSICORP）

传统上，视觉运算是人工智能的一个分支，被归纳为基于云端的IT流程。然而，今天处理系统的能力有显著提高之后，推动了视觉运算模式的改变。特别是影像分类和物体识别等神经网络的使用。对于视觉分析结构来说，系统需要两个主要能力：实时执行和快速矩阵计算，目前主流的手法是采用特定应用的数学算法模型。

而这个数学算法模型有两种类型的深度学习算法，分别为：

●一级检测（基于回归的物体检测器），在这种情况下，仅需一次的检测就能完成。

●两级检测（基于分类的物体检测器），检测则需要以两阶段的方式进行。

边缘人工智能朝向分布式架构转变
基于上述算法的计算能力，智能设备和高风险应用（从扩增/虚拟现实（AR/VR）到无人机应用和自动驾驶）等的新发展，已经使基于云端的人工智能变得不足。这些实时应用无法承受延迟，必须在高可靠性下运行，即使在网络连接中断的情况下，还是可以持续运作。因此这些新的应用引发了研发人员对分布式、低延迟和可靠的人工智能的巨大兴趣，推动了数据的处理，从基于云端和集中式学习和分析，朝向边缘人工智能的重大转变。例如：

●学习数据不均匀地分布在边缘设备的网络上，如网络基地台（BSs）和/或行动设备，包括电话、相机、车辆和无人机等。

●每个边缘设备都能获得极小部分的数据，让学习和分析可以集体进行的。

●每个边缘设备可以相互通讯，并交换学习的模型（例如神经网络），而不是私有数据。

当第一个节点识别出产在线的产品缺陷时，它会将带有标记ID的影像发送到第二个节点，让该节点有提供额外的处理能力。然后，第二个节点的缺陷检测模块被触发后，就会等待并持有GPU资源来进一步处理。如果在处理过程中没有发现缺陷，缺陷检测模块会发送一个触发信息，中止缺陷跟踪程序，并释放第二节点的GPU资源。在第二个节点的过程中，在缺陷检测其间，在云端服务器中标记了权限，可以帮助识别对该节点ID的授权用户。此时，云端只会向检测到缺陷的各个节点的认证用户发送消息（图三）。


 
图三 : 使用多个第一边缘节点、与第二边缘节点和云端的检测流程概念（数据源:ACSICORP）

使用Edge AI的一些显著优势是：

●可以在所连接的设备上进行本地执行推理，大幅减少了因为数据发送到云端进行预测，所造成的延迟和成本。

●与其将所有数据都发送到云端执行人工智能分析，不如直接在设备上进行分析，只有在需要特殊处理时才将数据发送到云端。

●以极低的延迟获得分析结果，对于确保一些关键性物联网络能够快速响应，是一件至关重要的事情。

●与基于云端的人工智能不同，Edge AI具有隐私保护，训练数据不会记录在云端，而是保存在每个设备中，透过获得和整合其他设备运算数据的更新，来学习全局共享模型。

●对大量用户所产生的数据样本进行学习，这将有助于实现高精确度，甚至可能包括隐私敏感信息，如医疗记录、工厂/网络运行状态和定位纪录。

Edge AI的应用优势性
现在我们已经看到了Edge AI解决方案，与传统或基于云的计算系统相比的好处，以下是Edge AI一些常见的现实世界的应用。

音频分析系统
识别音频输入和处理其中的数据数据，是当今许多设备的两个关键要求。音讯分析可用于各种目的，例如识别和访问管理（IAM），或手机、高级车中的语音控制。深度学习和Edge AI被应用于降噪设备，以协助系统进行各种声音触发，或失效。人工智能影响音频分析的另一个例子是，安装在汽车上的事故预防系统，可以透过视觉运算的影像以及声音（甚至在严重的干扰和背景噪音中）来检测接近的车辆，并采取预防措施来保护车内的人员。

此外，人声分析也是音讯分析的一个重要部分。可以透过人工神经网络和自然语言处理（NLP）工具，在语言和关键词识别方面学习基于边缘运算的AI模型，这一功能对于设备执行语音命令要求是很有用的。除此之外，Edge AI也可以实现文字到语音的转换等应用，反之亦然。当然，Edge AI的音讯分析也常被用于人工智能驱动的聊天机器人。

车用数据处理
Edge AI技术的另一个应用是车用设备的数据收集。由于随着网联汽车的普及，数据利用也呈现多样化和复杂化，例如，对于行车记录器影像数据的需求将增加、发送到云端中心的通讯成本、云端中心的储存成本等。目前可以透过Edge AI技术来作为解决方案。首先，利用在车内的Edge AI将所拍摄的影像中的物体，并且发送到云端。

例如，将招牌和汽车数量等识别结果，先转换成文字画数据，发送到云端中心。接下来，再依据云端中心的识别结果下，车用设备仅发送真正需要的影像数据(b)，可以大幅度降低与数据收集相关的成本，并且可以执行有效的数据收集（图四）。



 
图四 : Edge AI在车辆上的高效数据收集应用（数据源:DENSO TEN）

智能能源系统
互联风力发电站等应用可以透过Edge AI进行概念化和无缝运转。一般来说，如果只使用云端运算系统，运行此类系统的成本将高得惊人。相比之下，利用云端-边缘组合系统进行运算操作、数据获取、管理和处理的成本也可以获得较佳的控制。

风力发电站需要基于终端的解决方案，因为在风力涡轮机附近工作的员工，会利用多个监控摄影镜头、存取传感器、生物识别安全传感器等，来让风力发电站顺利地运转。而这些设备和传感器就必须确保能够有效地运转，并以闪电般的速度来处理相关数据。因此，Edge AI解决方案对于降低风能发电系统的成本，以及减少整体处理时间，和使用的带宽量是很有用的。

视觉娱乐系统
Edge AI也被广泛用于涉及AR、VR和MR的视觉娱乐系统。对于这些类型的系统，数据处理和人工智能分析就必须在本地完成，达到节省时间和成本。众所周知，AR系统需要用户佩戴虚拟现实或3D的眼镜，以充分享受其视觉上的沉浸式体验。透过边缘运算和人工智能技术，进行边缘服务器脱机处理，来达到小眼镜尺寸的目标。

微软的Hololens就是利用Edge AI和运算技术，应用在AR相关娱乐产品。Hololens包括一个整合全息计算机（Holographic Computer）的可穿戴头盔，让使用者沉醉在AR的世界中。未来甚至将会被应用复杂的游戏、数据分析，和医疗成像上。

智慧音箱和家庭助理
诸如亚马逊的Alexa和Google Home这样的智慧家庭助手，在当今依赖人工智能的世界里很流行。这类设备和系统也是利用Edge AI来提升速度和数据传输，使智能家居的概念变得更实用化。

结语
人工智能对于任何一种数字操作来说几乎是完美的。Edge AI采用人工智能的概念，并在几种不同的方式下改进技术，来达到下一个进化阶段，相信Edge AI的应用将会比现在更加普遍。