ML ve İçerik Oluşturma için Programatik Video Açıklama Çerçevesi
ML araştırmacıları ve video içerik oluşturucuları, eğitim verisi hazırlığından eğitsel katmanlara kadar ölçekli olarak açıklamalı videolar üretebilecek esnek, kod tabanlı bir video açıklama aracına ihtiyaç duyuyordu.
Projenizi Tartışın
Zorluk
Mevcut video açıklama araçları ya programatik bir API'ye sahip olmayan yoğun GUI'li araçlardı ya da zayıf görselleştirmeye sahip komut satırı araçlarıydı:
- ML ekipleri, ölçekli eğitim verileri için bounding boxes, polygons ve labels'a ihtiyaç duyuyordu
- Eğitimciler, öğretim videoları için animasyonlu katmanlara (oklar, spot ışıkları, metin) ihtiyaç duyuyordu
- Geleneksel açıklama araçları, Keyframe Interpolation veya Easing Animations'ı yönetemiyordu
- Hiçbir masaüstü yerel çözümü, OpenCV işleme yeteneğini profesyonel video çıktısıyla birleştiremiyordu
Çözümümüz
Türe-güvenli (type-safe) bir açıklama sistemi, Keyframe Interpolation ve bir Tauri masaüstü düzenleyicisi içeren React/Remotion tabanlı bir video açıklama çerçevesi geliştirdik.
Mimari
- Video Engine: Programatik kare kare işleme için Remotion 4.0
- Frontend: Vite ile React 18 + TypeScript
- Desktop App: OpenCV.js ve ONNX Runtime ile Tauri 2
- Dışa Aktarma: Yüksek kaliteli video çıktısı için FFmpeg
Açıklama Türleri
- Bounding Boxes - Etiketler ve güven puanları ile dikdörtgen bölgeler
- Circles - Yapılandırılabilir yarıçaplı nokta açıklamaları
- Polygons - Düzensiz şekiller için karmaşık bölge ana hatları
- Text Labels - Konumlandırmalı stilize metin katmanları
- Arrows - Akış veya dikkat için yön göstergeleri
- Freehand Paths - Özel çizilmiş açıklamalar
- Spotlights - Kısık arka planlı vurgulu bölgeler
Animasyon Sistemi
- Keyframe Interpolation - Açıklama durumları arasında pürüzsüz geçişler
- Easing Functions - Spring, ease-in-out, bounce ve özel eğriler
- Scene Composition - Giriş, açıklama katmanları, birleşik zaman çizelgesi, çıkış
- Fade Effects - Yapılandırılabilir süre ile fade-in/out
Temel Özellikler
- Type-Safe API - Tüm açıklama primitifleri için kapsamlı TypeScript tipleri
- Scene System - Sahne yapı taşlarından karmaşık videolar oluşturun
- Keyframe Animation - Zaman içinde herhangi bir açıklama özelliğini canlandırın
- Desktop Editor - Gerçek zamanlı önizlemeli Tauri tabanlı GUI
- Batch Export - FFmpeg aracılığıyla açıklamalı videoları işleyin
- OpenCV Integration - Masaüstü uygulamasında bilgisayar görüşü işleme
Sonuçlar
Teknoloji Yığını
caseStudyDetail.more Vaka Çalışmaları
Daha fazla teknik uygulamamızı keşfedin
Yapay Zeka Destekli Uzun Metrajlı Film Üretim Hattı
Basit bir metin istemini 15-90 dakikalık bir filme dönüştüren uçtan uca bir AI hattı kurarak uzun metrajlı film üretimini demokratikleştirmeyi amaçlayan iddialı bir içerik oluşturma projesi.
AI Destekli Fatura İşleme (OCR ve QuickBooks Entegrasyonu ile)
Ayda yüzlerce satıcı faturasını işleyen orta ölçekli bir işletme, fatura verilerini AI/OCR kullanarak otomatik olarak çıkarıp muhasebe ve ödeme takibi için doğrudan QuickBooks'a senkronize ederek manuel veri girişini ortadan kaldırmak istedi.
Sıkça Sorulan Sorular
MicrocosmWorks bu çerçeveyi, insan tıklaması yerine kod tabanlı kurallar kullanarak büyük ölçekte açıklamalar üretmesi gereken ekipler için geliştirdi. Önceden eğitilmiş dedektörleri, zamansal mantığı ve uzamsal kuralları uygulayarak eğitim verilerini otomatik olarak oluşturan açıklama işlem hatlarını Python betikleri olarak yazmayı destekler ve daha sonra COCO, Pascal VOC veya YOLO formatlarında dışa aktarır.
Evet, MicrocosmWorks; kare aralıklarını, anahtar kare interpolasyonunu ve başlangıç/bitiş zaman damgalarına sahip olay tabanlı etiketleri destekleyen bir zamansal ek açıklama modeli uyguladı. Ek açıklamacılar, 'poz tahmini 3 ardışık kareden fazla süreyle iki ayağın da yerden kesildiğini algıladığında koşuyor olarak etiketle' gibi zamansal kurallar tanımlayarak eylem etiketlemeyi otomatikleştirebilirler.
MicrocosmWorks, programatik annotasyonlar ile insan tarafından incelenmiş bir golden set arasındaki uyum skorlarını hesaplayan ve yapılandırılabilir bir IoU veya zamansal çakışma eşiğinin altına düşen tüm annotasyonları işaretleyen bir doğrulama hattı inşa etti. Çerçeve ayrıca, düşük güvenilirlikli annotasyonları insan denetçilere yönlendiren aktif öğrenme iş akışlarını da desteklemektedir.
MicrocosmWorks, çerçeveyi FFmpeg ve OpenCV üzerine kurdu ve MP4, MKV, AVI ve MOV dahil tüm ana kapsayıcı formatlarını H.264'ten ProRes'e kadar kodeklerle desteklemektedir. Çerçeve, videoları kendi doğal çözünürlüklerinde işler ancak büyük veri kümelerinde işlem hacmini hızlandırmak amacıyla ek açıklama geçişi için yapılandırılabilir küçültmeyi destekler.
MicrocosmWorks, ML altyapı projelerini saatlik 25-45 dolar oranlarında sunar. rule engine, format exporters ve quality validation pipeline'ı içeren programatik bir video açıklama çerçevesi, genellikle 300-500 geliştirme saati gerektirir. Bu çerçeve, video başına dakikada 5-15 dolar tutarında olabilen manuel açıklama maliyetlerini azaltarak kendini hızla amorti eder.
İşletmenizi Dönüştürmeye Hazır mısınız?
Zorluklarınıza benzer çözümler uygulamamızın yollarını konuşalım.