GPUアクセラレーションAIによるリアルタイムマルチストリームビデオ分析

MicrocosmWorksは、NVIDIA TensorRTを使用して複数のストリームからのフレームを単一のGPU推論呼び出しにバッチ処理することでパイプラインを最適化しました。これによりGPU利用率が最大化され、1ノードあたり20以上の同時ストリームを処理する場合でも、フレームあたり100ミリ秒未満のレイテンシを実現します。このアーキテクチャは、CUDA加速ビデオデコードを使用してCPUからのフレーム抽出をオフロードし、通常マルチストリーム性能を制限するデコードボトルネックを防ぎます。

MicrocosmWorksは、各カメラの状態マシンを維持し、指数バックオフを用いて切断されたストリームに自動的に再接続しながら、すべての健全なフィードを中断なく処理し続けるフォールトトレラントなストリームハンドラを構築しました。破損したフレームはチェックサム検証によって検出され、適切にスキップされます。また、システムはストリームの健全性指標を追跡し、カメラの信頼性が設定可能なしきい値を下回った場合にアラートを発します。

はい、MicrocosmWorksはカスタムモデルのトレーニングパイプラインを提供しており、お客様が特定の検出ターゲットのラベル付きサンプルを提供することで、チームがベースとなる検出モデルをファインチューニングし、業界特有のオブジェクト、行動、または異常を認識するようにします。このプラットフォームは、プロダクション環境でダウンタイムなしにモデルをホットスワップすることをサポートしているため、展開済みのカメラからより多くのトレーニングデータを収集するにつれて、検出精度を繰り返し向上させることができます。

MicrocosmWorksは、GPUワーカーポッドがストリーム数と処理負荷に基づいて水平にスケーリングするKubernetesベースのアーキテクチャ上に分析プラットフォームを設計しました。容量の追加は、追加のGPUノードをプロビジョニングするだけで簡単にでき、オーケストレーション層は、展開の総規模に関わらず、一貫したレイテンシーと検出精度を維持しながら、利用可能なワーカー全体にストリームを自動的に再分配します。

MicrocosmWorks は、初期のフレーム抽出とオプションの軽量な inference がカメラの近くで行われる edge-preprocessing オプションを実装しました。これにより、key frames またはイベントによってトリガーされた clips のみを送信することで、中央の analytics cluster への必要な帯域幅を削減します。完全な一元化されたデプロイメントの場合、プラットフォームは設定可能な解像度で H.265 ストリームをサポートし、標準的な帯域幅は、15fps の analytics sampling rate で 1080p ストリームあたり 2-4 Mbps です。