تحليلات الفيديو متعددة التدفقات في الوقت الفعلي بتقنية AI مُسرّعة بواسطة GPU

MicrocosmWorks حسّنت مسار العمل عن طريق تجميع الإطارات من تدفقات متعددة في استدعاءات استنتاج واحدة لـ GPU باستخدام NVIDIA TensorRT، مما يزيد من استخدام GPU ويحقق زمن استجابة أقل من 100 مللي ثانية لكل إطار حتى عند معالجة أكثر من 20 تدفقًا متزامنًا لكل عقدة. تستخدم البنية فك تشفير الفيديو المسرّع بواسطة CUDA لتفريغ استخراج الإطارات من CPU، مما يمنع عنق الزجاجة لفك التشفير الذي يحد عادةً من أداء التدفقات المتعددة.

قامت MicrocosmWorks ببناء معالجات تدفقات (stream handlers) متسامحة مع الأخطاء تحافظ على آلات حالة (state machines) خاصة بكل كاميرا، وتعيد الاتصال بالتدفقات المنقطعة تلقائيًا باستخدام exponential backoff، مع الاستمرار في معالجة جميع البثوث السليمة دون انقطاع. يتم اكتشاف الإطارات التالفة عبر التحقق من checksum وتجاوزها بسلاسة، ويقوم النظام بتتبع مقاييس صحة التدفقات (stream health metrics) التي تطلق تنبيهات عندما تنخفض موثوقية الكاميرا عن الحدود القابلة للتكوين.

نعم، توفر MicrocosmWorks مسارًا لتدريب النماذج المخصصة حيث تقوم بتزويد أمثلة مُعلّمة لأهداف الاكتشاف المحددة لديك، ويقوم الفريق بضبط نماذج الاكتشاف الأساسية للتعرف على الكائنات أو السلوكيات أو الحالات الشاذة الخاصة بالصناعة. تدعم المنصة التبديل السريع للنماذج في بيئة الإنتاج دون توقف، بحيث يمكنك تحسين دقة الاكتشاف بشكل متكرر كلما جمعت المزيد من بيانات التدريب من كاميراتك المنتشرة.

قامت MicrocosmWorks بتصميم منصة التحليلات على بنية معتمدة على Kubernetes حيث تتوسع GPU worker pods أفقيًا بناءً على عدد التدفقات وحمل المعالجة. إضافة السعة بسيطة مثل توفير GPU nodes إضافية، وتقوم طبقة التنسيق تلقائيًا بإعادة توزيع التدفقات عبر العاملين المتاحين، مع الحفاظ على latency و detection accuracy متسقين بغض النظر عن الحجم الكلي للنشر.

طبقت MicrocosmWorks خيارات المعالجة المسبقة على الحافة (edge-preprocessing) حيث يتم استخراج الإطارات الأولية والاستدلال الخفيف الاختياري بالقرب من الكاميرات، مما يقلل من النطاق الترددي المطلوب لمجموعة التحليلات المركزية عن طريق إرسال الإطارات الرئيسية فقط أو المقاطع التي يتم تشغيلها بواسطة الأحداث. بالنسبة للعمليات المنتشرة مركزياً بالكامل، تدعم المنصة تدفقات H.265 بدقة قابلة للتكوين، ويبلغ النطاق الترددي النموذجي 2-4 Mbps لكل تدفق 1080p بمعدل أخذ عينات تحليلات 15fps.