๋ถ์ ๋ฐ ๋น์ฆ๋์ค ์ธํ ๋ฆฌ์ ์ค๋ฅผ ์ํ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ง ์๋ฃจ์ ์ ๋๋ค. Snowflake, BigQuery, Redshift๋ฅผ ์ฌ์ฉํ์ฌ ํ๋์ ์ธ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค๋ฅผ ์ค๊ณํ๊ณ ๊ตฌํํฉ๋๋ค.
์์ํ๊ธฐ
ํ๋์ ์ธ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค๋ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ์์ฌ ๊ฒฐ์ ์ ๊ธฐ๋ฐ์ ๋๋ค. MicrocosmWorks๋ ์ฌ๋ฌ ์์ค์ ๋ฐ์ดํฐ๋ฅผ ํตํฉํ๊ณ , ๋น ๋ฅธ ๋ถ์ ์ฟผ๋ฆฌ๋ฅผ ๊ฐ๋ฅํ๊ฒ ํ๋ฉฐ, ๋น์ฉ ํจ์จ์ ์ผ๋ก ํ์ฅ ๊ฐ๋ฅํ ์จ์ดํ์ฐ์ค ์ํคํ ์ฒ๋ฅผ ์ค๊ณํฉ๋๋ค. ๋น์ฌ์ ์๋ฃจ์ ์ ELT ํ์ดํ๋ผ์ธ, dbt ๋ณํ, ๊ฑฐ๋ฒ๋์ค ์ ์ฉ๋ ์๋งจํฑ ๋ ์ด์ด๋ฅผ ํฌํจํ ํ๋์ ์ธ ๋ฐ์ดํฐ ์คํ์ ์ฌ์ฉํฉ๋๋ค.
์ ํฌ๋ ๊ณ ๊ฐ์ ํด๋ผ์ฐ๋ ์์ฝ์์คํ ์ ๋ฐ๋ผ Snowflake, BigQuery ๋๋ Redshift๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ตฌ์ถํฉ๋๋ค. Airflow ๋๋ Dagster๋ฅผ ์ฌ์ฉํ ํ์ดํ๋ผ์ธ ์ค์ผ์คํธ๋ ์ด์ , dbt๋ฅผ ์ฌ์ฉํ ๋ณํ, Fivetran, Airbyte ๋๋ ๋ง์ถคํ ์ปค๋ฅํฐ๋ฅผ ์ฌ์ฉํ ๋ฐ์ดํฐ ์์ง์ ์ง์ํฉ๋๋ค. Great Expectations์ ๋ฐ์ดํฐ ์นดํ๋ก๊ทธ๋ฅผ ํตํด ๊ฑฐ๋ฒ๋์ค์ ํ์ง์ ๊ด๋ฆฌํฉ๋๋ค.
๋ถ์, ๋ณด๊ณ , ๋ฐ์ดํฐ ๊ณผํ์ ์ํด ์ฌ๋ฌ ์์ค์ ๋ฐ์ดํฐ๋ฅผ ํตํฉํด์ผ ํ๋ ๊ธฐ์ ์ ์ํ ์๋น์ค์ ๋๋ค. ์ฒซ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค๋ฅผ ๊ตฌ์ถํ๋ , ๊ธฐ์กด ์จ์ดํ์ฐ์ค๋ฅผ ํ๋ํํ๋ , MicrocosmWorks๋ ๊ท์ฌ์ ๋ฐ์ดํฐ์ ํ์ ๋ง์ถฐ ํ์ฅ ๊ฐ๋ฅํ ์๋ฃจ์ ์ ์ค๊ณํฉ๋๋ค.
๋ฐ์ดํฐ ์์ค๋ฅผ ํ์ ํ๊ณ , ๋ถ์ ์๊ตฌ ์ฌํญ์ ์ดํดํ๋ฉฐ, ํ์ฌ ๋ฐ์ดํฐ ํ๋ฆ์ ๋งคํํฉ๋๋ค.
์จ์ดํ์ฐ์ค ์คํค๋ง, ํ์ดํ๋ผ์ธ ์ํคํ ์ฒ, ๋ณํ ๋ ์ด์ด ๋ฐ ๊ฑฐ๋ฒ๋์ค ๋ชจ๋ธ์ ์ค๊ณํฉ๋๋ค.
๋ฐ์ดํฐ ์์ง ํ์ดํ๋ผ์ธ์ ๊ตฌ์ถํ๊ณ , dbt ๋ณํ์ ๊ตฌํํ๋ฉฐ, ๋ถ์ ๋งํธ๋ฅผ ์์ฑํฉ๋๋ค.
BI ๋๊ตฌ๋ฅผ ์ฐ๊ฒฐํ๊ณ , ๋์๋ณด๋๋ฅผ ๊ตฌ์ถํ๋ฉฐ, ๋น์ฆ๋์ค ์ฌ์ฉ์๋ฅผ ์ํ ์ ํ ์๋น์ค ๋ถ์์ ์ค์ ํฉ๋๋ค.
๋ฐ์ดํฐ ํ์ง ๊ฒ์ฌ, ์ ๊ทผ ์ ์ด, ๋น์ฉ ์ต์ ํ ๋ฐ ๋ฌธ์ํ๋ฅผ ๊ตฌํํฉ๋๋ค.
๊ท์ฌ์ ๋ฐ์ดํฐ๋ฅผ ํตํฉํ๊ณ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ์์ฌ ๊ฒฐ์ ์ ์ง์ํ๋ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค๋ฅผ ๋ง๋ค์ด ๋ณด์ธ์.
์ ํฌ๋ ๊ณ ๊ฐ์ ๋ถ์ ์ํฌ๋ก๋์ ์์ฐ์ ๊ฐ์ฅ ์ ํฉํ ํ๋ซํผ์ ์ ํํ์ฌ Snowflake, Amazon Redshift, Google BigQuery, Azure Synapse์ ๊ฐ์ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ง ํ๋ซํผ๊ณผ Apache Hive, ClickHouse์ ๊ฐ์ ์คํ ์์ค ์๋ฃจ์ ์์ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค๋ฅผ ๊ตฌ์ถํฉ๋๋ค.
MicrocosmWorks๋ ์๊ฐ๋น $25~$50์ ๋น์ฉ์ผ๋ก ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ง ์ปจ์คํ ๋ฐ ๊ฐ๋ฐ ์๋น์ค๋ฅผ ์ ๊ณตํฉ๋๋ค. ํ๋ก์ ํธ ๋น์ฉ์ ๋ฐ์ดํฐ ์์ค์ ์, ๋ณํ ๋ณต์ก์ฑ ๋ฐ ๋ณด๊ณ ์๊ตฌ ์ฌํญ์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค.
์, ์ ํฌ๋ ๊ณ ๊ฐ์ ๋น์ฆ๋์ค ๋๋ฉ์ธ์ ๋ง์ถฐ Kimball ๋๋ Inmon ๋ฐฉ๋ฒ๋ก ์ ์ฌ์ฉํ์ฌ star schema์ snowflake schema๋ฅผ ์ค๊ณํ์ฌ, ๊ณ ๊ฐ์ analytics ๋ฐ BI ํ์ ์ํ ํจ์จ์ ์ธ ์ฟผ๋ฆฌ ์ฑ๋ฅ๊ณผ ์ง๊ด์ ์ธ ๋ฐ์ดํฐ ๊ตฌ์กฐ๋ฅผ ๋ณด์ฅํฉ๋๋ค.
์ ํฌ๋ ๊ณ ๊ฐ์ ์ด๋ ฅ ์ถ์ ์๊ตฌ ์ฌํญ์ ๋ฐ๋ผ CDC ๊ธฐ๋ฐ ์ฆ๋ถ ๋ก๋ฉ, merge/upsert ํจํด, SCD Type 1/2 ์ ๋ต์ ๊ตฌํํฉ๋๋ค. ์ ํฌ ELT ํ์ดํ๋ผ์ธ์ ์ ๋ขฐํ ์ ์๋ ์ค์ผ์คํธ๋ ์ด์ ์ ์ํด dbt, Airflow, Fivetran๊ณผ ๊ฐ์ ๋๊ตฌ๋ฅผ ์ฌ์ฉํฉ๋๋ค.
๋ฌผ๋ก ์ ๋๋ค. ์ ํฌ๋ ๊ณ ๊ฐ์ ์จ์ดํ์ฐ์ค ์ฌ์ฉ ํจํด์ ๊ฐ์ฌํ๊ณ , ์ฟผ๋ฆฌ ๊ตฌ์กฐ๋ฅผ ์ต์ ํํ๋ฉฐ, materialized views๋ฅผ ๊ตฌํํ๊ณ , auto-suspend policies๋ฅผ ๊ตฌ์ฑํ๋ฉฐ, ์ปดํจํ ๋ฆฌ์์ค๋ฅผ ์ ์ ๊ท๋ชจ๋ก ์กฐ์ ํ์ฌ ์๋ณ ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค ๋น์ฉ์ 30-60% ์ ๊ฐํฉ๋๋ค.