2021年3月26日
エッジで優れた動作をする制約のあるデバイス
これは、Ikerlan に関する一連の記事の最初の記事です。
Ikerlan は、ヨーロッパ有数の研究および技術移転機関の 1 つであり、産業企業や公共部門の組織が IoT、クラウド、AI のイノベーションを活用して事業を推進できるよう支援することに重点を置いています。この機関は、次の 3 つのコアとなる学際的な能力分野に焦点を当てています。エネルギーとパワー エレクトロニクス、高度な製造。
この組織は、研究主導であり、モンドラゴン社の協力メンバーであり、バスク研究技術同盟にも接続されています。質の高い研究活動と技術移転および高度に訓練された社内要員を組み合わせることにより、この機関はスペインの多くの大手企業だけでなく、ヨーロッパの企業にとっても重要なパートナーとなっています。
パートナーの開発チームと協力して、Jacabo の応用研究と翻訳作業は、エッジ コンピューティングとマイクロサービス アーキテクチャの開発に焦点を当てており、制約のあるエッジ デバイスを含むユースケースに対処することに重点を置いていますが、これに限定されるわけではありません。 Jacobo は次のように付け加えています。「私たちは、ハイ パフォーマンス コンピューティング、スマート モビリティ、予測メンテナンスなどの分野で、EU が資金提供する ELASTIC プロジェクトで Nvidia Jetson ハードウェアと協力しています。 Jacobo のグループは、独自の合理化された AI およびエッジ推論マイクロサービス アーキテクチャを開発しました。これは Konnekt ボックスと Konnekt クラウド エコシステムと呼ばれます。
by Stephen Cawley
The Device Chronicle は、Ikerlan の IoT & デジタル プラットフォーム グループで働くエッジ研究者である Jacobo Fanjul にインタビューしました。 Jacobo は、より複雑な機械学習モデルを開発し、エッジ上の制約のあるデバイスに展開することのパラドックスを説明します。
Nvidia Jetsonの経験
Nvidia Jetson が使用されているプロジェクトの 1 つに、フィレンツェ市の市電ネットワークがあります。このプロジェクトにおける Ikerlan の役割は、通信とセキュリティを監視することです。チームは、ネットワーク パフォーマンス、セキュリティ ルール、および監査に関するすべての情報を取得する非機能要件ツールを開発しています。オーケストレーターは、別のプロジェクト パートナーであるバルセロナ スーパーコンピューティング センターによって開発されました。このオーケストレーターは、非機能的なメトリックを取得し、すべての Jetson デバイスの計算負荷を適応させて、フィールドの実際の条件に適応できるようにします。
より制約のあるデバイスでの作業
Jacobo と彼のチームは、Florence プロジェクトで Nvidia プロセッサの高度な機能を利用できることに興奮していますが、専門知識をはるかに強力でないハードウェアでも機能させる必要があります。 Jacobo 氏は次のように述べています。「私たちは、小規模な機械学習モデルと推論タスクを低コストのデバイスで実行することを希望するクライアントとも協力しています。このようなユニットは、CPU アーキテクチャが比較的制限されているため、パフォーマンスが制限されている CPU で計算負荷を実行する方法を見つけ出す必要があります。」
制約のあるエッジ デバイスでの推論の使用例
Jacobo は、推論のユースケースの例を提供します。仕組みにはセンサーがあり、その役割は機器の異常や故障を監視・検知することです。サンプルのシーケンス全体が、おそらく 5 秒間のサンプルの設定時間にわたって分析され、この信号に異常が存在するかどうかが確認されます。モデルは複雑である必要はありません。サンプルのサブセットがトレーニングのためにクラウドに送信され、トレーニングされたモデルがエッジ デバイスにダウンロードされます。このようにして、通信を節約し、エッジで推論タスクを実行できます。
制約のあるデバイスの接続
そして多くの場合、エッジで問題となるのは制約のあるデバイスだけでなく、制約のある接続でもあります。ジェイコボ氏は、これが多くのユースケースで課題になると指摘しています。 「Ikerlan の民間部門のクライアントの多くは、エッジ デバイスへのネットワーク接続に 3G および GPRS トランシーバーを使用しています。ジェイコボは嘆きます「ほぼリアルタイムまたはほぼリアルタイムのトレーニングを実行したり、クラウドから重い推論モデルをダウンロードしたりするのに自由に使える帯域幅がありません。通信技術が古くなっているため、待ち時間が長すぎてこれを行うことができません。」このため、計算作業はエッジで行う必要があります。 Jacobo は、プロジェクトの 1 つでそれがどのように機能するかを説明します。開発の場合、保守担当者は、スループットに制限がある CANbus 経由で通信するデバイスから開発用のデータを取得します。すべての中心的な情報がバスを介して送信できるわけではありません。人間のオペレーターがデータを取得し、モデルは Ikerlan チームによってトレーニングおよびダウンロードされます。将来のプロジェクトでは、Ikerlan は人間の介入に取って代わり、データ収集をワイヤレス伝送で実行したいと考えています。ジェイコボ氏は、彼らが何をしたいのかを説明しています。「ワイヤレス インターフェースを備えた 1 つのデバイスを導入し、センサーがそのデバイスにデータを送信します。他のデバイスへのゲートウェイとして機能するため、データをトレーニング ステージのトレーニング データ セットとして使用したり、クラウドに送信してモデルをトレーニングしてエッジにダウンロードしたりできます。」
3G および GPRS および制約のあるデバイス
LTEおよび狭帯域IoTCAT-Mトランシーバーは将来性のあるテクノロジーです。しかし現実には、多くのメーカーがまだ数十万の 3G GPRS トランシーバーを持っています。 Jacobo 氏は、このインフラストラクチャに既に投資しており、その結果、ほとんどの場合、少なくとも 10 年間は 3G 通信と「結婚」していると説明しています。難問は、機械学習または AI タスク用の新しいコンピューター アプリケーションが本番環境にリリースされ、クライアントがこのアプリケーションを現場にすでに配備されているデバイスと連携させる必要がある場合に発生します。それは、非常に制限された通信チャネル内で行う必要があります。
ジェイコボ氏が観察するこのシナリオは、ハードウェアでできることと利用可能な帯域幅が、現在の多くのモバイル アプリケーションが要求するものよりもはるかに大きいスマートフォン市場とは正反対です。 IoT とエッジのユース ケースでは、ハードウェアと帯域幅が、それらで実行できるソフトウェア アプリケーションよりもはるかに高度でない場合、その逆が一般的です。
IoT には、制約のあるデバイスのコストに関する考慮事項が伴います。
Ikerlan は、鉄道メーカーやエレベーター会社などの民間部門のクライアントと協力しています。多くの場合、経済の現実は、IoT が提供するすべてのものを迅速に受け入れることが難しいことを意味します。現場に数十万台のエレベータがある場合を例にとります。これらのエレベータ ユニットのそれぞれには、IoT 接続を備えた 7 ~ 12 台のデバイスがあります。製品マネージャーと設計者は、これらのコンポーネントを LTE および CAT-M および新しい高度な組み込みハードウェアにアップグレードすることを検討する必要があります。この場合、1 つのコンポーネントのコストは 400 ユーロになります。彼らは、約束にもかかわらず、当然ながらこれらの投資へのアプローチに慎重です。エレベーター メーカーは、特定の商品価格でドアを開くメカニズムを持っている可能性があります。その場合、センサーは異常を予測する別のデバイスにデータを提供する必要があるため、ドアには接続が必要です。これは、購入者がエレベータ ユニットのトータル コスト管理について考えるときに理解するのに非常に役立ちます。 「接続されたデバイス専用のコストは 5% から 15% 上昇します。これは、エレベータ全体の構造としては大きく見えます。」
制約のあるデバイスでのモジュラー エッジ アプローチ
Jacobo のチームは、独自のエッジ マイクロサービス アーキテクチャを開発しました。このプラットフォームは、デプロイメント オーケストレーターや MQTT レポート用のエクスポート サービスなどのコア コンポーネントを使用して設計されています。プラットフォームの残りの部分は、特定のクライアントのニーズに合わせてカスタマイズされています。 「Ikerlan は、すべてのコンポーネントが互いに通信できるようにするフレームワークを提供します。これは、モジュール性に基づいた非常に軽量なプラットフォームです。開始点は、2 ~ 3 つのタスクを含む比較的単純なユースケースです。このアプローチでは、クラウドからリモートで新しいコンポーネントをオンデマンドで追加できます。これは、たとえば、CAN 監視アプリケーションを使用して CANbus から変数を取得し、新しいデバイスが展開に追加され、CANbus ではなく modbus または OPC を使用する場合に役立ちます。新しいコンポーネントをデプロイします。新しいコンポーネントが不要になった場合は、簡単に削除でき、よりシンプルな展開に戻ります。別のシナリオでは、クラウド プラットフォームを変更する必要があります。この場合、更新が必要なのはエクスポート コンポーネントだけです。最終的なシナリオでは、MQTT から軽量の M2M プロトコルに切り替えることができますが、これは非常に簡単に行うことができます。 Ikerlan は Konnekt プラットフォームをクライアントに提供していますが、AWS IoT Core と Azure IoT Hub を含むクライアント プロジェクトにも取り組んでいます。 Jacobo 氏は、「クライアントはエッジ プラットフォームを求めており、たとえば AWS IoT Core と連携することを望んでいます」と指摘しています。
OTA ソフトウェア アップデートと制約のあるエッジ デバイス
Ikerlan は、組み込みデバイスの OTA ソフトウェア更新への最善のアプローチについても考えてきました。 彼らは、リバース SSH アプローチ (ポートを開く必要がある) から MQTT サブスクリプションに移行し、フィールドにあるデバイスにサーバーをポーリングして更新をダウンロードするように指示します。 Mender.ioを使用すると、更新を実行するために開いているポートは必要ありません。
IoT、AI、コンピューター ビジョンの Elastic Project
Ikerlan は、Elastic Project の大量輸送インターフェースの最先端にいます。 これらは、予知保全と障害物検出のユースケースに対応しています。 彼らは、トラムなどの公共交通機関と民間交通機関、歩行者とサイクリストの間の相互作用に注目しています。 機械学習モデル、コンピューター ビジョン、エッジ デバイスを使用して、交差点での障害物を検出し、信号機と同期し、異常のチェックを含むトラックの状態のプロファイルを監視します。
機能的および非機能的パラダイム
Jacobo の場合、このプロジェクトには 2 つのパラダイムがあります。1 つは機能的で、もう 1 つは機能的ではありません。 1 つは、計算負荷分散またはオーケストレーションを管理することです。 これには、タスク分散、CPU 使用率などの機能要件を監視し、実行する必要があるすべてのリアルタイム タスクの期限を守ることが含まれます。
2 番目の非機能的パラダイムは、監視用のレポート ツールの管理です。
- 通信(Communications) – ネットワークは期待どおりに機能していますか?
- セキュリティの監視(Security monitoring) – いくつかのノードが更新されていない場合、または一連のセキュリティ ルールと要件を満たしていない場合は、潜在的に脆弱なノードに作業負荷を分散させたくないでしょう。
- エネルギー消費(Energy consumption) – ノード間のエネルギー消費のバランスをとる.1つのノードが多くの電力を消費する場合、負荷を他のノードに再分配する.
- リアルタイムの要件(Real time requirements) – 締め切りの履行を評価し、コンピューター ビジョンのタスクが時間内に実行されていることを確認するために監視します。
これらのパラダイムは、予知保全における改善された結果に役立ちます。企業は、部品の故障、人的労力、人的ミスを減らすことで、お金を節約し、命を救います。 「異常を検出して、コストを節約し、大きな休憩を取り、最終的には事故を防ぐことができます。」
投資よりも利息が高い
エッジやIoTへの関心が高い。しかし、投資のレベルはまだ金利レベルほど高くありません。 Jacobo の場合、これは多くの場合、企業が非常に制約の多いエッジ デバイスに対して行ってきた過去の投資に戻ってきます。 「企業は、メンテナンスで多くのコストを節約し、高度な推論モデルを使用しながら、より低い仕様のデバイスを使い続けたいと考えています。これらのデバイスは、AI に関して提供できるものに下限があります。」最終的に企業は、IoT デバイスとこの分野の進歩と革新により多くの予算を割り当てることができるように、実証済みの ROI を確認する必要があります。
Are you ready to talk to us? Click お問い合わせ
Source :
Source :