2021年3月26日
受限设备在边缘卓越运行
这是 Ikerlan 的系列文章中的第一篇
Ikerlan 是欧洲领先的研究和技术转让机构之一,专注于帮助工业公司和公共部门组织利用物联网、云和人工智能方面的创新来推进其运营。该机构专注于 3 个核心的多学科能力领域:电子、信息和通信技术;能源和电力电子以及先进制造业。
该组织以研究为主导,是蒙德拉贡公司的合作成员,还与巴斯克研究与技术联盟有联系。通过将高质量的研究活动与技术转让以及训练有素的内部人员相结合,该机构不仅成为西班牙许多领先公司的重要合作伙伴,而且也成为欧洲公司的重要合作伙伴。
与合作伙伴的开发团队合作,Jacobo 的应用研究和转化工作侧重于边缘计算和微服务架构的开发,以解决有时涉及受限边缘设备但并非完全如此的用例。 Jacobo 补充说:“我们在欧盟资助的 ELASTIC 项目中与 Nvidia Jetson 硬件合作,涉及高性能计算、智能移动和预测性维护等领域。 Jacobo 的团队开发了他们自己的精简 AI 和边缘推理微服务架构,称为 Konnekt Box 和 Konnekt Cloud 生态系统。
by Stephen Cawley
The Device Chronicle采访了Ikerlan物联网和数字平台小组的Edge研究人员Jacobo Fanjul。 Jacobo 解释了为边缘受限设备开发和部署更复杂的机器学习模型的悖论。
英伟达 Jetson 体验
使用 Nvidia Jetson 的一个项目是佛罗伦萨市的市政电车网络。 Ikerlan 在这个项目中的角色是监控通信和安全。该团队正在开发一种非功能性需求工具,该工具可检索有关网络性能、安全规则和审计的所有信息。该协调器由另一个项目合作伙伴——巴塞罗那超级计算中心开发。该协调器采用非功能性指标并调整所有 Jetson 设备的计算负载,以便它们能够适应现场的实际条件。
使用更受限的设备
虽然 Jacobo 和他的团队很高兴能够在 Florence 项目中利用 Nvidia 处理器的高级功能,但他们还必须将他们的专业知识用于功能较弱的硬件。 Jacobo 说:“我们还与希望我们使用低成本设备执行微型机器学习模型和推理任务的客户合作。此类单元具有相对受限的 CPU 架构,我们必须弄清楚如何使用性能有限的 CPU 来执行计算负载。”
受限边缘设备中的推理用例
Jacobo 提供了一个推理用例的示例。机械装置中有一个传感器,其作用是监控和检测设备的异常或故障。在大约 5 秒的样本设置时间段内分析整个样本序列,以查看该信号中是否存在任何异常。模型不需要很复杂,将样本子集传输到云端进行训练,然后将训练好的模型下载到边缘设备。这样可以节省通信,并且可以在边缘执行推理任务。
受限的设备连接
通常,在边缘面临挑战的不仅是受限设备,还有受限连接。 Jacobo 指出,这在许多用例中都是一个挑战。 “Ikerlan 的许多私营部门客户仍在使用 3G 和 GPRS 收发器来连接到他们的边缘设备。 Jacobo 感叹道:“您没有足够的带宽来执行几乎实时或几乎实时的训练以及从云端下载大量推理模型。由于过时的通信技术,延迟太高而无法做到这一点。”因此,计算工作必须在边缘完成。 Jacobo 解释了它在他们的一个项目中是如何工作的。对于开发,维护操作员从通过 CANbus 通信的设备检索开发数据,这具有吞吐量限制。并非所有的中心信息都可以通过总线传输。人工操作员检索数据,然后模型由 Ikerlan 团队训练和下载。对于未来的项目,Ikerlan 希望取代人工干预,并通过无线传输执行数据采集。 Jacobo 描述了他们想要做的事情“我们将在部署中使用一个带有无线接口的设备,然后我们的传感器会将数据发送到该设备。它将充当通往其他设备的网关,因此数据可以用作训练阶段的训练数据集或传输到云端,以便可以训练模型并将其下载回边缘。”
3G 和 GPRS 以及受限设备
LTE 和窄带物联网 CAT-M 收发器是一项前瞻性技术。但现实情况是,许多制造商仍然拥有数十万个 3G GPRS 收发器。 Jacobo 将其描述为成本问题,因为他们已经在此基础设施上进行了投资,因此在大多数情况下至少 10 年与 3G 通信“结合”。当用于机器学习或 AI 任务的新型计算机应用程序发布到生产中并且客户需要此应用程序与已部署在现场的设备一起工作时,难题就出现了。它必须在一个非常受限的通信渠道内完成。
Jacobo 观察到,这种情况与智能手机市场截然相反,在智能手机市场中,您可以使用硬件和可用带宽做的事情远远大于许多当前移动应用程序的需求。在物联网和边缘用例中,硬件和带宽远不如可在其上运行的软件应用程序先进。
物联网伴随着受限设备的成本考虑
Ikerlan 与私营部门客户合作,包括火车制造商和电梯公司。在这里,经济现实通常意味着快速拥抱物联网所提供的一切可能具有挑战性。如果您以在现场拥有数十万台设备的电梯车队为例。这些电梯单元中的每一个都可能有 7 到 12 个具有物联网连接的设备。产品经理和设计师必须考虑将这些组件升级到 LTE 和 CAT-M 以及新的高级嵌入式硬件,其中一个组件的成本可能为 400 欧元。尽管有承诺,但他们对待这些投资的方式自然是谨慎的。电梯制造商可能有一个具有一定商品成本的开门机制,然后你说门需要连接,因为传感器需要向另一个要预测异常的设备提供数据。当购买者考虑电梯单元的总成本管理时,他们可能会理解这一点。 “专用于连接设备的成本从 5% 上升到 15%,这对于整个电梯的构建来说看起来很大。”
受限设备中的模块化边缘方法
Jacobo 的团队开发了自己的边缘微服务架构。该平台设计有核心组件,例如部署协调器和用于 MQTT 报告的导出服务。该平台的其余部分是针对特定客户的需求进行定制的。 “Ikerlan 提供了一个框架,以便所有组件都可以相互通信。这是基于模块化的非常轻量级的平台。起点是涉及两到三个任务的相对简单的用例。通过这种方法,可以从云端远程按需添加新组件。这很有用,例如,您正在使用 CAN 监控应用程序从 CANbus 检索变量,然后在部署中添加新设备并使用 modbus 或 OPC 而不是 CANbus。您部署了一个新组件。如果不再需要新组件,则可以轻松删除它,然后您将返回到更简单的部署。在另一种情况下,您想要更改云平台,在这种情况下,所有需要更新的是导出组件。在最后一个场景中,您可能希望从 MQTT 切换到轻量级 M2M 协议,这很容易做到。 Ikerlan 向客户提供其 Konnekt 平台,但也致力于涉及 AWS IoT Core 和 Azure IoT Hub 的客户项目。 Jacobo 指出“客户想要一个边缘平台,他们希望它与 AWS IoT Core 一起工作”。
OTA 软件更新和受限边缘设备
Ikerlan 还一直在思考将 OTA 软件更新到嵌入式设备的最佳方法。他们已经从反向 SSH 方法(需要开放端口)转向 MQTT 订阅,以告诉现场的设备轮询服务器以下载更新。使用 Mender.io 不需要开放端口来执行更新。
物联网、人工智能和计算机视觉的弹性项目
Ikerlan 在 Elastic 项目中处于公共交通接口的前沿。他们正在为预测性维护和障碍物检测的用例提供服务。他们着眼于公共交通(如电车)与私人交通、行人和骑自行车者之间的相互作用。机器学习模型、计算机视觉和边缘设备用于检测十字路口的障碍物、与交通灯同步、监控轨道状况的轮廓,包括异常检查。
功能和非功能范式
对于 Jacobo 来说,这个项目中有两种范式——一种是功能性的,另一种是非功能性的。一种是管理计算负载分布或编排。这涉及监视功能要求,例如任务分配,CPU使用情况,并满足所有需要执行的实时任务的截止日期。
第二个非功能范式是用于监控的报告工具的管理:
- 通信(Communications) — 网络是否按预期运行?
- 安全监控(Security monitoring) — 如果几个节点没有更新,或者不满足一组安全规则和要求,那么你不会希望将工作负载分配给那些潜在的易受攻击的节点
- 能源消耗(Energy consumption) — 平衡节点之间的能源消耗,如果一个节点消耗大量电力,你会重新分配负载到其他节点
- 实时要求(Real time requirements) —评估截止日期的完成情况,并进行监控以确保计算机视觉任务按时执行。
这些范例有助于改善预测性维护的结果。公司通过减少零件故障、人工和人为错误来节省资金并挽救生命。 “您可以检测异常并节省成本、大量中断并最终防止事故发生。”
利息高于投资
对边缘和物联网的兴趣很高。但投资水平还没有利息水平那么高。对于 Jacobo 来说,这通常要追溯到公司已经在高度受限的边缘设备上进行的历史投资。 “公司希望通过维护节省大量成本,使用先进的推理模型,并且仍然继续使用其较低规格的设备。当涉及到人工智能时,这些设备对它们所能提供的东西有较低的限制。”最终,公司需要看到经过验证的投资回报率,以便他们可以将更大比例的预算分配给物联网设备以及该领域的进步和创新。
你有任何问题吗? 请单击HERE提问。
Source :
Source :