Microchip与韩国智能硬件公司IHWK合作开发模拟计算平台,加速边缘AI/ML推理

为了适应网络边缘人工智能（AI）计算及相关推理算法的快速发展，韩国智能硬件公司（IHWK）正在为神经技术设备和现场可编程神经形态设备开发神经形态计算平台。Microchip Technology Inc.（美国微芯科技公司）通过子公司冠捷半导体（SST）参与协助开发，为该平台SuperFlash^® memBrain™神经形态存储器解决方案提供评估系统。该解决方案基于Microchip经行业验证的非易失性存储器（NVM）SuperFlash技术并加以优化，可通过模拟内存计算方法为神经网络执行矢量矩阵乘法（VMM）。

memBrain技术评估工具包旨在让IHWK展示其神经形态计算平台在边缘运行推理算法的绝对能效。最终目标是为生成式人工智能模型、自动驾驶汽车、医疗诊断、语音处理、安全/监控和商用无人机等应用创建超低功耗模拟处理单元（APU）。

由于目前用于边缘推理的神经网络模型可能需要5000万或更多突触（权重）进行处理，因此纯数字解决方案需要足够带宽来使用片外DRAM，这对神经网络计算造成了瓶颈，降低了整体计算能力。相比之下，memBrain解决方案在超低功耗亚阈值模式下将突触权重存储在片上浮动栅中，并使用相同存储单元进行计算，从而显著提高了能效和降低了系统延迟。与传统数字DSP和基于SRAM/DRAM的方法相比，该方案可将每次推理决策的功耗降低到原来的1/20到1/10，并能显著降低总体物料清单。

为了开发APU，IHWK 还与位于大田的韩国科学技术院（KAIST）合作进行设备开发，并与位于首尔的延世大学（Yonsei University）合作提供设备设计协助。最终的 APU 预计将优化推理的系统级算法，并在每瓦 20-80 TeraOPS 之间运行，实现了为电池供电设备设计的内存计算解决方案的最佳性能。

Microchip技术许可业务部门SST副总裁Mark Reiten表示：“通过使用成熟的NVM而非替代性片外内存解决方案来执行神经网络计算和存储权重，Microchip的memBrain内存计算技术有望消除在网络边缘执行人工智能处理所面临的大规模数据通信瓶颈。与韩国领先的研发公司IHWK、相关高校和早期用户开展合作，进一步证明了Microchip神经处理技术的先进性，也将推动Microchip在人工智能领域的发展。”

IHWK 分公司经理Sanghoon Yoon 表示：“韩国是人工智能半导体发展的重要热点地区。我们的非易失性存储器和新兴存储器专家已经证实，Microchip基于成熟非易失性存储器技术的memBrain产品是创建内存计算系统的最佳选择。”

将神经模型永久存储在memBrain解决方案的处理元件中，还可支持用于实时神经网络处理的即时开启功能。IHWK正寻求利用SuperFlash存储器浮动栅单元的非易失性，支持低功耗边缘计算设备使用高级ML模型，建立机器学习推理的新基准。