MLおよびコンテンツ作成のためのプログラムによる動画アノテーションフレームワーク
ML研究者と動画コンテンツクリエイターは、トレーニングデータ準備から教育用オーバーレイまで、大規模にアノテーション付き動画を生成できる、柔軟でコード駆動型の動画アノテーションツールを必要としていました。
プロジェクトを相談する
課題
既存の動画アノテーションツールは、プログラムによるAPIがなくGUIに依存しすぎるか、または可視化機能が貧弱なコマンドラインツールのいずれかでした。
- MLチームは、大規模なトレーニングデータ用にバウンディングボックス、ポリゴン、ラベルを必要としていました
- 教育者は、教育用動画のためにアニメーション付きオーバーレイ(矢印、スポットライト、テキスト)を必要としていました
- 従来のアノテーションツールは、キーフレーム補間やイージングアニメーションに対応できませんでした
- OpenCV処理とプロフェッショナルな動画出力を組み合わせたデスクトップネイティブソリューションはありませんでした
私たちのソリューション
私たちは、型安全なアノテーションシステム、キーフレーム補間、およびTauriデスクトップエディタを備えたReact/Remotionベースの動画アノテーションフレームワークを構築しました。
アーキテクチャ
- 動画エンジン: プログラムによるフレームごとのレンダリングのためのRemotion 4.0
- フロントエンド: Viteを使用したReact 18 + TypeScript
- デスクトップアプリ: OpenCV.jsとONNX Runtimeを備えたTauri 2
- エクスポート: 高品質な動画出力のためのFFmpeg
アノテーションの種類
- バウンディングボックス - ラベルと信頼度スコアを持つ矩形領域
- 円 - 設定可能な半径を持つ点アノテーション
- ポリゴン - 不規則な形状のための複雑な領域のアウトライン
- テキストラベル - 位置指定可能なスタイル付きテキストオーバーレイ
- 矢印 - 流れや注意を促すための方向指示器
- フリーハンドパス - カスタム描画されたアノテーション
- スポットライト - 背景が暗くなったハイライト領域
アニメーションシステム
- キーフレーム補間 - アノテーションの状態間のスムーズな遷移
- イージング関数 - Spring、ease-in-out、bounce、およびカスタムカーブ
- シーン合成 - イントロ、アノテーションレイヤー、結合されたタイムライン、アウトロ
- フェードエフェクト - 設定可能な持続時間でのフェードイン/アウト
主要機能
- 型安全なAPI - すべてのアノテーションプリミティブに対する包括的なTypeScript型
- シーンシステム - シーン構成要素から複雑な動画を構成
- キーフレームアニメーション - 時間経過とともに任意のアノテーションプロパティをアニメーション化
- デスクトップエディタ - リアルタイムプレビュー付きTauriベースGUI
- バッチエクスポート - FFmpegを介してアノテーション付き動画をレンダリング
- OpenCV統合 - デスクトップアプリでのコンピュータビジョン処理
成果
技術スタック
caseStudyDetail.more ケーススタディ
その他の技術実装事例をご覧ください
よくある質問
MicrocosmWorksは、人間のクリックではなくコード駆動型のルールを使用して、大規模なアノテーションを生成する必要があるチームのためにこのフレームワークを構築しました。これは、事前学習済みの検出器、時間的ロジック、空間的ルールを適用してトレーニングデータを自動的に生成するPythonスクリプトとしてアノテーションパイプラインを記述することをサポートしており、その後、COCO、Pascal VOC、またはYOLO形式でエクスポートします。
はい、MicrocosmWorks は、フレーム範囲、キーフレーム補間、および開始/終了タイムスタンプを持つイベントベースのラベルをサポートする時間的アノテーションモデルを実装しました。アノテーターは、'pose estimation が3フレーム以上連続して両足が地面から離れていることを検出した場合に「走行中」とラベル付けする' といった時間的ルールを定義して、アクションラベリングを自動化できます。
MicrocosmWorksは、プログラムによるアノテーションと人間がレビューしたゴールデンセットとの間で一致スコアを計算し、設定可能なIoUまたは時間的オーバーラップの閾値を下回るすべてのアノテーションにフラグを付ける検証パイプラインを構築しました。また、このフレームワークは、信頼度の低いアノテーションを人間のレビューアにルーティングするアクティブラーニングワークフローもサポートしています。
MicrocosmWorksはFFmpegとOpenCVを基盤としてフレームワークを構築しました。MP4、MKV、AVI、MOVを含む主要なすべてのコンテナ形式をサポートしており、H.264からProResまでのコーデックに対応しています。フレームワークはビデオをネイティブ解像度で処理しますが、大規模なデータセットでのスループットを加速するために、アノテーション処理用に設定可能なダウンスケーリングをサポートしています。
MicrocosmWorksは、$25〜$45/時間のレートでMLインフラプロジェクトを提供します。rule engine、format exporters、およびquality validation pipelineを含むプログラマティックなビデオアノテーションフレームワークは、通常300〜500の開発時間を要します。このフレームワークは、1分間のビデオあたり$5〜$15かかる手動アノテーションコストを削減することで、すぐに元が取れます。