物联网结合机器学习（ML）在许多应用中越来越受欢迎，从小型物联网设备到大型数据中心等。由于各种原因，如实时/离线操作、节省电池，甚至安全和隐私考量，最理想的是在生成数据的边缘运行ML算法和数据处理。这些低功耗物联网设备可以是嵌入式微控制器、无线SoC或集成到传感器设备中的智能器件。
为了实现这一目标，半导体产品制造商需要小型、低功耗处理器或微控制器，以有效的方式运行必要的机器学习（ML）软件，有时还支持内置在芯片中的硬件加速器。评估一个特定设备的性能并不简单，因为它在ML应用程序中的有效性比原始的数字运算更重要。
MLCommons™(一个开放的工程联盟)开发了三个基准测试套件来比较来自不同供应商的ML产品。
MLCommons专注于协作工程工作，通过基准测试、指标、公共数据集和最佳实践使机器学习行业受益。
这些基准测试套件称为MLPerf™，在将训练好的ML模型应用于新数据时，测量ML系统在推理时的性能。基准测试还可选择测量完成推理任务所使用的能量。由于基准是开源的，并经过同行评审，因此它们提供了一个客观、公正的性能和能源效率测试。
在MLCommons提供的三个基准测试中，Silicon Labs（亦称“芯科科技”）已经提交了MLPerf Tiny套件的解决方案。MLPerf Tiny是针对最小的低功耗设备，通常用于深度嵌入式应用，如物联网或智能传感。
Silicon Labs系统基准测试
Silicon Labs提交了EFR32MG24多协议无线SoC进行基准测试。该SoC包括一个Arm Cortex®-M33核心(78 MHz, 1.5 MB Flash / 256 kB RAM)和一个Silicon Labs硬件加速器子系统。
它支持多种2.4GHz射频协议，包括低功耗蓝牙(Bluetooth Low Energy)、蓝牙mesh、Matter、OpenThread和Zigbee。它是网状物联网无线应用的理想选择，如智能家居、照明和楼宇自动化。这个紧凑的开发平台为智能和机器学习开发提供了简单、省时的路径。
SoC正在运行TensorFlowLite for Microcontrollers软件，该软件使ML推断模型能够在微控制器和其他具有小内存的低功耗设备上运行。它使用了Silicon Labs Gecko软件开发工具包（SDK）中的CMSIS-NN库中的优化神经网络内核。
测试结果
MLPerf™Tiny v1.0基准测试结果突出了Silicon Labs EFR32MG24平台片上加速器的效率。推理计算从主CPU上卸载，允许它执行其他任务，甚至将其置于睡眠模式，以进一步节省电力。
这对于满足ML增强的低功耗无线物联网解决方案日益增长的需求至关重要，允许设备在一个硬币电池上运作长达十年。这些最新结果表明，与之前Tiny v0.7结果中的其他基准ML模型相比，速度提高了1.5到2倍，能耗降低了40-80%。
随着机器学习在嵌入式物联网应用中得到越来越广泛的应用，这种以低功耗运行推理的能力是必不可少的，这将使产品设计师能够在新的用例和不同的设备中应用机器学习。
