ניתוח וידאו מרובה זרמים בזמן אמת עם AI מואץ GPU

MicrocosmWorks ביצעה אופטימיזציה ל-pipeline על ידי batching של frames ממספר streams לתוך single GPU inference calls באמצעות NVIDIA TensorRT, מה שממקסם את GPU utilization ומשיג latency של פחות מ-100ms לכל frame, גם בעת processing של 20+ concurrent streams לכל node. הארכיטקטורה משתמשת ב-CUDA-accelerated video decoding כדי offload את frame extraction מ-CPU, ובכך מונעת את decode bottleneck שבדרך כלל מגביל multi-stream performance.

MicrocosmWorks בנתה stream handlers סבילי-תקלות שמתחזקים state machines לכל מצלמה בנפרד, מחברים מחדש אוטומטית streamים מנותקים עם exponential backoff תוך המשך עיבוד כל הפידים התקינים ללא הפרעה. פריימים פגומים מזוהים באמצעות אימות checksum ומדלגים עליהם בצורה חלקה, והמערכת עוקבת אחר מדדי תקינות stream שמפעילים התראות כאשר האמינות של מצלמה יורדת מתחת לספים הניתנים להגדרה.

כן, MicrocosmWorks מספקת custom model training pipeline שבו אתם מספקים דוגמאות מתויגות של יעדי הזיהוי הספציפיים שלכם, והצוות מבצע fine-tuning למודלי זיהוי בסיסיים כדי לזהות אובייקטים, התנהגויות או חריגות ספציפיות לתעשייה. הפלטפורמה תומכת ב-hot-swapping models ב-production ללא downtime, כך שתוכלו לשפר באופן איטרטיבי את detection accuracy ככל שתאספו יותר training data מהמצלמות הפרוסות שלכם.

MicrocosmWorks תכננה את פלטפורמת הניתוח על ארכיטקטורה מבוססת Kubernetes, שבה GPU worker pods מתרחבים אופקית בהתבסס על ספירת זרמים ועומס עיבוד. הוספת קיבולת פשוטה כמו אספקת GPU nodes נוספים, ושכבת ה-orchestration מפיצה מחדש אוטומטית זרמים בין ה-workers הזמינים, ושומרת על latency ו-detection accuracy עקביים ללא קשר לגודל הפריסה הכולל.

MicrocosmWorks יישמה אפשרויות edge-preprocessing שבהן שליפת פריימים ראשונית והסקה (inference) קלה ואופציונלית מתרחשות קרוב למצלמות, מה שמפחית את רוחב הפס הנדרש לאשכול האנליטיקה המרכזי על ידי שידור key frames בלבד או קטעי וידאו (clips) המופעלים על ידי אירועים. עבור פריסות מרוכזות לחלוטין, הפלטפורמה תומכת בזרמי H.265 ברזולוציות הניתנות להגדרה, ורוחב הפס הטיפוסי הוא 2-4 Mbps לכל זרם 1080p בקצב דגימת אנליטיקה של 15fps.