Ohjelmallinen videon annotaatiokehys ML:lle ja sisällöntuotannolle
ML-tutkijat ja videosisällöntuottajat tarvitsivat joustavan, koodiohjatun videon annotointityökalun, joka pystyi tuottamaan annotoituja videoita mittakaavassa, harjoitusdatan valmistelusta opetuskuvakerroksiin.
Keskustele Projektistasi
Haaste
Olemassa olevat videon annotointityökalut olivat joko raskaita graafisia käyttöliittymiä ilman ohjelmallista API:a, tai komentorivityökaluja huonolla visualisoinnilla:
- ML-tiimit tarvitsivat rajauslaatikoita, polygoneja ja tunnisteita harjoitusdataan mittakaavassa
- Kouluttajat tarvitsivat animoituja peittokuvia (nuolia, kohdevaloja, tekstiä) opetusvideoihin
- Perinteiset annotointityökalut eivät pystyneet käsittelemään avainkehysten interpolointia tai pehmennysanimaatioita
- Mikään natiivi työpöytäratkaisu ei yhdistänyt OpenCV-käsittelyä ammattimaiseen videolähtöön
Meidän Ratkaisumme
Rakensimme React/Remotion-pohjaisen videon annotaatiokehyksen tyyppiturvallisella annotaatiojärjestelmällä, avainkehysten interpoloinnilla ja Tauri-työpöytäeditorilla.
Arkkitehtuuri
- Video-moottori: Remotion 4.0 ohjelmalliseen kuva kuvalta -renderöintiin
- Frontend: React 18 + TypeScript Vite:n kanssa
- Työpöytäsovellus: Tauri 2 OpenCV.js:n ja ONNX Runtimen kanssa
- Vienti: FFmpeg korkealaatuiseen videolähtöön
Annotaatiotyypit
- Rajauslaatikot - Suorakulmaiset alueet tunnisteineen ja luottamusarvoineen
- Ympyrät - Pistepohjaiset annotaatiot konfiguroitavalla säteellä
- Polygonit - Monimutkaiset alueiden ääriviivat epäsäännöllisille muodoille
- Tekstitunnisteet - Tyylitellyt tekelipeittokuvat sijainnilla
- Nuolet - Suuntakuvakkeet kululle tai huomiolle
- Vapaapiirrosreitit - Mukautetut piirretyt annotaatiot
- Kohdevalot - Korosta alueita himmennetyllä taustalla
Animaatiojärjestelmä
- Avainkehysten interpolointi - Sulavat siirtymät annotaatiotilojen välillä
- Pehmennysfunktiot - Jousto, ease-in-out, pomppu ja mukautetut käyrät
- Koosteen sommittelu - Intro, annotaatiokerrokset, yhdistetty aikajana, outro
- Häivytystehosteet - Sisään-/ulos-häivytys konfiguroitavalla kestolla
Tärkeimmät ominaisuudet
- Tyyppiturvallinen API - Kattavat TypeScript-tyypit kaikille annotaatioprimitiiveille
- Koostejärjestelmä - Luo monimutkaisia videoita koosteen rakennuspalikoista
- Avainkehysanimaatio - Animoi mitä tahansa annotaation ominaisuutta ajan mittaan
- Työpöytäeditori - Tauri-pohjainen graafinen käyttöliittymä reaaliaikaisella esikatselulla
- Erävienti - Renderöi annotoituja videoita FFmpegillä
- OpenCV-integraatio - Konenäön käsittely työpöytäsovelluksessa
Tulokset
Teknologiapino
caseStudyDetail.more Tapaustutkimukset
Tutustu lisää teknisiin toteutuksiimme
Tekoälypohjainen pitkien elokuvien tuotantoputki
Kunnianhimoinen sisällöntuotantoprojekti, jonka tavoitteena on demokratisoida pitkien elokuvien tuotantoa rakentamalla päästä päähän AI-putki, joka muuntaa yksinkertaisen tekstikehotteen 15–90 minuutin elokuvaksi.
AI-pohjainen laskujen käsittely OCR:n ja QuickBooks-integraation avulla
Keskisuuri yritys, joka käsitteli satoja toimittajalaskuja kuukausittain, halusi poistaa manuaalisen tiedonsyötön poimimalla laskutiedot automaattisesti AI/OCR:n avulla ja synkronoimalla ne suoraan QuickBooks-järjestelmään kirjanpitoa ja maksujen seurantaa varten.
Usein kysytyt kysymykset
MicrocosmWorks rakensi tämän kehyksen tiimeille, jotka tarvitsevat annotaatioiden luomista laajassa mittakaavassa koodiohjattujen sääntöjen avulla ihmisen klikkailun sijaan. Se tukee annotointiputkien kirjoittamista Python-skripteinä, jotka soveltavat esikoulutettuja detektoreita, temporaalilogiikkaa ja spatiaalisia sääntöjä harjoitusdatan automaattiseen luomiseen, ja vie sen jälkeen COCO-, Pascal VOC- tai YOLO-muodoissa.
Kyllä, MicrocosmWorks toteutti ajallisen annotoinnin mallin, joka tukee kehysalueita, avainkuvien interpolointia ja tapahtumapohjaisia merkintöjä alku-/loppuaikaleimoilla. Annotoijat voivat määritellä ajallisia sääntöjä, kuten 'merkitse juoksuksi, kun pose estimation havaitsee molempien jalkojen olevan irti maasta yli 3 peräkkäisen kuvan ajan', automatisoidakseen toiminnan merkinnän.
MicrocosmWorks rakensi validointiputken, joka laskee yhdenmukaisuuspisteet ohjelmallisten annotaatioiden ja ihmisen tarkistaman golden setin välillä, merkiten kaikki annotaatiot, jotka alittavat konfiguroitavan IoU- tai ajallisen päällekkäisyyden kynnyksen. Kehys tukee myös active learning -työnkulkuja, jotka ohjaavat matalan luottamuksen annotaatiot ihmistarkastajille.
MicrocosmWorks rakensi kehyksen FFmpegin ja OpenCV:n päälle, tukien kaikki tärkeimmät säiliömuodot, mukaan lukien MP4, MKV, AVI ja MOV, koodekeilla H.264:stä ProResiin. Kehys käsittelee videoita niiden natiiviresoluutiolla, mutta tukee konfiguroitavaa alas skaalausta merkintäprosessia varten kiihdyttääkseen läpivirtausta suurissa tietoaineistoissa.
MicrocosmWorks toteuttaa ML-infrastruktuuriprojekteja hintaan 25-45 $/tunti, ja ohjelmallinen videon annotointikehys, joka sisältää sääntömoottorin, formaattien viejät ja laadunvarmistusputken, vaatii tyypillisesti 300-500 kehitystuntia. Kehys maksaa itsensä takaisin nopeasti vähentämällä manuaalisia annotointikustannuksia, jotka voivat olla 5-15 dollaria videominutilta.
Valmis Muuttamaan Liiketoimintaasi?
Keskustellaan siitä, miten voimme soveltaa vastaavia ratkaisuja haasteisiisi.