2021년 3월 26일
엣지에서 탁월하게 작동하는 제한된 장치
The Device Chronicle은 Ikerlan의 IoT 및 디지털 플랫폼 그룹에서 일하는 Edge 연구원 인 Jacobo Fanjul을 인터뷰했습니다. Jacobo는 점점 더 복잡한 기계 학습 모델을 개발하고 엣지의 제한된 장치에 배포하는 역설을 설명합니다.
Nvidia Jetson 경험
Nvidia Jetson이 사용되는 프로젝트 중 하나는 피렌체시의 시립 트램 네트워크입니다. 이 프로젝트에서 Ikerlan의 역할은 통신 및 보안을 모니터링하는 것입니다. 팀은 네트워크 성능, 보안 규칙 및 감사에 대한 모든 정보를 검색하는 비 기능적 요구 사항 도구를 개발하고 있습니다. 오케 스트레이터는 또 다른 프로젝트 파트너 인 Barcelona Supercomputing Center에 의해 개발되었습니다. 이 오케 스트레이터는 비 기능적 메트릭을 취하고 모든 Jetson 장치의 계산 부하를 조정하여 현장의 실제 조건에 맞게 조정할 수 있습니다.
더 제한된 장치로 작업
Jacobo와 그의 팀은 Florence 프로젝트에서 Nvidia 프로세서의 고급 기능을 활용할 수 있다는 사실에 기뻐하지만 훨씬 덜 강력한 하드웨어로 작업 할 수 있도록 전문 지식을 투입해야합니다. Jacobo는“저희는 저렴한 장치로 작은 기계 학습 모델과 추론 작업을 수행하기를 원하는 고객과도 협력합니다. 이러한 장치는 상대적으로 제한된 CPU 아키텍처를 가지고 있으며 성능이 제한된 CPU로 계산 부하를 수행하는 방법을 찾아야합니다.”
제한된 에지 장치의 추론 사용 사례
Jacobo는 추론 사용 사례의 예를 제공합니다. 메커니즘에는 센서가 있으며 그 역할은 장비의 이상 또는 고장을 모니터링하고 감지하는 것입니다. 샘플의 전체 시퀀스는이 신호에 이상이 있는지 확인하기 위해 5 초 정도의 샘플 기간 동안 분석됩니다. 모델이 복잡 할 필요는 없으며, 훈련을 위해 샘플의 하위 집합이 클라우드로 전송 된 다음 훈련 된 모델이 에지 장치로 다운로드됩니다. 이러한 방식으로 통신 비용을 절감하고 추론 작업을 에지에서 수행 할 수 있습니다.
제한된 장치 연결
그리고 종종 엣지에서 문제가되는 제한된 기기뿐만 아니라 제한된 연결성이기도합니다. Jacobo는 이것이 많은 사용 사례에서 어려운 문제라고 지적합니다. “많은 Ikerlan의 민간 부문 클라이언트는 에지 장치에 대한 네트워크 연결을 위해 여전히 3G 및 GPRS 트랜시버를 사용하고 있습니다. Jacobo는“거의 실시간 또는 거의 실시간 교육을 수행하고 클라우드에서 무거운 추론 모델을 다운로드 할 수있는 대역폭이 없습니다. 오래된 통신 기술로 인해 지연 시간이 너무 길어이를 수행 할 수 없습니다. " 이러한 이유로 컴퓨팅 작업은 에지에서 수행되어야합니다. Jacobo가 프로젝트 중 하나에서 어떻게 작동하는지 설명합니다. 개발을 위해 유지 보수 운영자는 처리량 제한이있는 CANbus를 통해 통신하는 장치에서 개발 용 데이터를 검색합니다. 모든 중앙 정보가 버스를 통해 전송되는 것은 아닙니다. 작업자는 데이터를 검색 한 다음 Ikerlan 팀에서 모델을 교육하고 다운로드합니다. 향후 프로젝트를 위해 Ikerlan은 사람의 개입을 대체하고 무선 전송으로 데이터 수집을 수행하고자합니다. Jacobo는 그들이 원하는 작업을 설명합니다.“우리는 무선 인터페이스가있는 배포에서 하나의 장치를 가져 오면 센서가 데이터를 해당 장치로 보냅니다. 다른 장치에 대한 게이트웨이 역할을하여 데이터를 훈련 단계에 대한 훈련 데이터 세트로 사용하거나 클라우드로 전송하여 모델을 훈련하고 에지로 다시 다운로드 할 수 있습니다. "
3G 및 GPRS 및 제한된 장치
LTE 및 협 대역 IoT CAT-M 트랜시버는 유망한 기술입니다. 그러나 현실은 많은 제조업체가 여전히 수십만 개의 3G GPRS 송수신기를 보유하고 있다는 것입니다. Jacobo는 이미이 인프라에 투자했으며 그 결과 대부분의 경우 최소 10 년 동안 3G 통신과 "결혼"한 경우 비용 문제라고 설명합니다. 수수께끼는 기계 학습 또는 AI 작업을위한 새로운 컴퓨터 애플리케이션이 프로덕션에 출시되고 클라이언트가 현장에 이미 배포 된 장치와 함께 작동하기 위해이 애플리케이션이 필요할 때 발생합니다. 매우 제한된 통신 채널 내에서이를 수행해야합니다.
Jacobo는이 시나리오가 하드웨어로 할 수있는 작업과 사용 가능한 대역폭이 현재 많은 모바일 애플리케이션이 요구하는 것보다 훨씬 더 큰 스마트 폰 시장과 정반대라고 관찰했습니다. IoT 및 엣지 사용 사례에서는 하드웨어와 대역폭이 실행 가능한 소프트웨어 애플리케이션보다 훨씬 덜 진보 된 경우가 종종 있습니다.
IoT에는 제한된 장치에 대한 비용 고려 사항이 있습니다.
Ikerlan은 기차 제조업체 및 엘리베이터 회사를 포함한 민간 부문 고객과 협력합니다. 여기에서 종종 경제의 현실은 IoT가 제공하는 모든 것을 빠르게 수용하는 것이 어려울 수 있음을 의미합니다. 현장에 수십만 유닛이있는 엘리베이터 함대의 예를 들어 보겠습니다. 각 엘리베이터 장치에는 IoT 연결이 가능한 7 ~ 12 개의 장치가있을 수 있습니다. 제품 관리자와 설계자는 이러한 구성 요소를 LTE 및 CAT-M으로 업그레이드하고 하나의 구성 요소에 400 유로가 드는 새로운 고급 임베디드 하드웨어를 고려해야합니다. 그들은 약속에도 불구하고 이러한 투자에 접근하는 방식에 자연스럽게 신중합니다. 엘리베이터 제조업체는 특정 상품 비용으로 문을 열 수있는 메커니즘을 가지고있을 수 있으며 센서가 이상을 예측할 다른 장치에 데이터를 제공해야하기 때문에 문에 연결이 필요하다고 말합니다. 이것은 구매자가 엘리베이터 장치의 총 비용 관리에 대해 생각할 때 이해하기 어려울 수 있습니다. "연결된 장치에 대한 비용은 5 %에서 15 %로 증가하며 이는 전체 엘리베이터 빌드에 비해 큰 것으로 보입니다."
제한된 장치의 모듈 식 에지 접근
Jacobo의 팀은 자체 에지 마이크로 서비스 아키텍처를 개발했습니다. 이 플랫폼은 MQTT보고를위한 배포 오케 스트레이터 및 내보내기 서비스와 같은 핵심 구성 요소로 설계되었습니다. 나머지 플랫폼은 특정 클라이언트 요구에 맞게 사용자 정의됩니다. “Ikerlan은 모든 구성 요소가 서로 통신 할 수 있도록 프레임 워크를 제공합니다. 모듈성에 기반한 매우 가벼운 플랫폼입니다. 시작점은 2 ~ 3 개의 작업을 포함하는 비교적 간단한 사용 사례입니다. 이 접근 방식을 사용하면 클라우드에서 원격으로 필요에 따라 새로운 구성 요소를 추가 할 수 있습니다. 예를 들어 CAN 모니터링 애플리케이션으로 작업하여 CANbus에서 변수를 검색 한 다음 새 장치가 배치에 추가되고 CANbus 대신 modbus 또는 OPC를 사용하는 경우 유용합니다. 새 구성 요소를 배포합니다. 새 구성 요소가 더 이상 필요하지 않으면 쉽게 제거 할 수 있으며 더 간단한 배포로 돌아갈 수 있습니다. 또 다른 시나리오에서는 클라우드 플랫폼을 변경하려고하며이 경우 업데이트가 필요한 모든 것은 내보내기 구성 요소입니다. 마지막 시나리오에서 MQTT에서 경량 M2M 프로토콜로 전환 할 수 있으며 이는 매우 쉽게 수행 할 수 있습니다. Ikerlan은 고객에게 Konnekt 플랫폼을 제공하지만 AWS IoT Core 및 Azure IoT Hub와 관련된 클라이언트 프로젝트에서도 작업합니다. Jacobo는 "클라이언트는 엣지 플랫폼을 원하며 예를 들어 AWS IoT Core와 함께 작동하기를 원합니다"라고 말합니다.
OTA 소프트웨어 업데이트 및 제한된 에지 장치
Ikerlan은 또한 임베디드 장치에 대한 OTA 소프트웨어 업데이트에 대한 최상의 접근 방식을 고려하고 있습니다. 그들은 역 SSH 접근 방식 (개방 포트가 필요함)에서 MQTT 구독으로 이동하여 장치가 업데이트를 다운로드하기 위해 서버를 폴링하도록 현장에 알리도록했습니다. Mender.io를 사용하면 업데이트를 수행하기 위해 열린 포트가 필요하지 않습니다.
IoT, AI 및 컴퓨터 비전을위한 탄력적 프로젝트
Ikerlan은 Elastic Project에서 대중 교통 인터페이스의 선두에 있습니다. 그들은 예측 유지 보수 및 장애물 감지를위한 사용 사례를 제공하고 있습니다. 그들은 트램과 개인 교통, 보행자와 자전거와 같은 대중 교통 사이의 상호 작용을 봅니다. 기계 학습 모델, 컴퓨터 비전 및 에지 장치는 교차로에서 장애물을 감지하고 신호등과 동기화하고 이상 검사를 포함한 트랙 상태의 프로필을 모니터링하는 데 사용됩니다.
기능적 및 비 기능적 패러다임
Jacobo의 경우이 프로젝트에는 두 가지 패러다임이 있습니다. 하나는 기능적이고 다른 하나는 비 기능적입니다. 하나는 계산 부하 분산 또는 오케스트레이션을 관리하는 것입니다. 여기에는 작업 배포, CPU 사용량과 같은 기능 요구 사항을 모니터링하고 수행해야하는 모든 실시간 작업의 기한을 맞추는 것이 포함됩니다.
두 번째 비 기능적 패러다임은 모니터링을위한보고 도구의 관리입니다.
- 통신(Communications) – 네트워크가 예상대로 작동합니까?
- 보안 모니터링(Security monitoring) – 여러 노드가 업데이트되지 않았거나 일련의 보안 규칙 및 요구 사항을 충족하지 않는 경우 잠재적으로 취약한 노드에 작업 부하를 분산하지 않을 것입니다.
- 에너지 소비(Energy consumption) – 노드간에 에너지 소비를 균형있게 조정합니다. 한 노드가 많은 전력을 소비하는 경우 부하를 다른 노드로 재분배합니다.
- 실시간 요구 사항(Real time requirements) – 기한 이행을 평가하고 컴퓨터 비전 작업이 적시에 수행되고 있는지 모니터링합니다.
이러한 패러다임은 예측 유지 관리에서 개선 된 결과를 제공합니다. 회사는 부품 고장, 인적 노동 및 인적 오류를 줄여 비용을 절감하고 생명을 구합니다. "이상을 감지하고 비용과 큰 휴식 시간을 절약하고 궁극적으로 사고를 예방할 수 있습니다."
투자보다 높은이자
엣지와 IoT에 대한 관심이 높습니다. 그러나 투자 수준은 아직이자 수준만큼 높지 않습니다. Jacobo에게 이것은 종종 회사가 이미 고도로 제한된 에지 장치에 투자 한 역사적 투자로 돌아옵니다. “기업은 유지 관리를 통해 많은 비용을 절감하고 고급 추론 모델을 사용하면서 더 낮은 지정된 장치를 계속 사용하기를 원합니다. 이러한 장치는 AI와 관련하여 제공 할 수있는 것보다 더 낮은 한계를 가지고 있습니다. " 궁극적으로 기업은 입증 된 ROI를 확인하여 더 많은 예산을 IoT 장치와 현장의 발전 및 혁신에 할당 할 수 있어야합니다.
궁굼한것이 있으신가요? 여기를 눌러 문의하세요.
Source :
Source :