서버리스-퍼스트 아키텍처

서버리스 우선(serverless-first) 방식은 15분을 초과하는 장기 실행 프로세스, 영구적인 WebSocket 연결이 필요한 워크로드, 예약 용량이 더 저렴한 일관된 고처리량 트래픽이 발생하는 애플리케이션, 그리고 낮은 수준의 OS 또는 네트워크 구성이 필요한 시스템에 적합하지 않습니다. MicrocosmWorks는 아키텍처 설계 시 이러한 제약 조건을 기반으로 각 워크로드를 평가하고, 서버리스가 API 엔드포인트 및 이벤트 처리를 담당하고 컨테이너나 VM이 지속적인 컴퓨팅이 필요한 워크로드를 실행하는 하이브리드 접근 방식을 권장합니다. 이러한 실용적인 접근 방식은 적합하지 않은 모든 구성 요소를 서버리스로 강제하려는 일반적인 실수를 피할 수 있습니다.

MicrocosmWorks는 주요 endpoint에 provisioned concurrency를 활용하고, 초기화 시간을 줄이기 위한 function bundle optimization을 수행하며, Java 워크로드의 경우 콜드 스타트를 초 단위에서 밀리초 단위로 단축시키는 Lambda SnapStart를 전략적으로 사용하여 Lambda cold start 문제를 완화합니다. 또한, latency-sensitive한 경로는 Node.js나 Python과 같이 최소한의 dependencies를 가진 lightweight runtime을 사용하도록 애플리케이션을 아키텍처하여, provisioned concurrency 없이도 cold start를 200ms 미만으로 유지합니다. 이 정도의 latency조차 허용되지 않는 endpoint의 경우, sub-10ms 응답을 위해 Lambda@Edge 또는 CloudFront Functions를 사용합니다.

MicrocosmWorks는 개발자의 머신에서 거의 production 수준의 충실도로 cloud 서비스를 에뮬레이트하는 SST (Serverless Stack), LocalStack 또는 Serverless Framework의 오프라인 모드와 같은 도구를 사용하여 로컬 개발 환경을 설정합니다. 저희는 각 pull request마다 스핀업되는 임시 cloud 환경에서 실행되는 integration test suites를 구현하여, 개발자들이 staging environment를 공유하지 않고도 실제 AWS 서비스를 대상으로 유효성을 검사할 수 있도록 합니다. 이러한 이중 접근 방식은 개발을 위한 빠른 local iteration loops를 제공하는 동시에, 코드가 production에 도달하기 전에 cloud-specific issues를 포착할 수 있게 합니다.

MicrocosmWorks는 가변적이거나 급증하는 트래픽 패턴을 가진 애플리케이션의 경우 서버리스가 훨씬 저렴하다는 것을 발견했습니다. 이는 상응하는 항상 켜져 있는 컨테이너 배포보다 70-90% 저렴한 경우가 많지만, 월 1,000만~2,000만 호출 이상의 지속적인 처리량에서는 비용 이점이 줄어듭니다. 저희는 아키텍처 설계 중에 고객의 특정 트래픽 패턴에 맞춰 서버리스 호출당 요금과 예약된 컨테이너 용량을 비교하고, API Gateway 요금 및 데이터 전송 요금과 같은 숨겨진 비용을 포함하는 비용 예측 모델을 구축합니다. 시간당 $10-$35의 컨설팅 요금으로 이용 가능한 저희의 최적화 서비스는 서버리스 청구 내역을 정기적으로 검토하여 과도하게 프로비저닝된 메모리, 과도한 함수 실행 시간 또는 불필요한 API Gateway 사용으로 인한 낭비를 식별합니다.

MicrocosmWorks는 Lambda 함수와 데이터베이스 사이에 영구적인 계층으로 배포되는 Amazon RDS Proxy 또는 PgBouncer와 같은 연결 풀링 프록시를 사용하여, 수천 개의 Lambda 연결을 관리 가능한 실제 데이터베이스 연결 풀로 다중화합니다. 또한, 연결 풀링이 여전히 병목 현상을 일으킬 수 있는 높은 동시성 워크로드의 경우, MicrocosmWorks는 서버리스 애플리케이션이 DynamoDB 또는 기타 연결 없는 데이터베이스를 선호하도록 설계합니다. 관계형 데이터베이스를 사용해야 하는 애플리케이션의 경우, 동시 Lambda 호출이 데이터베이스의 연결 용량과 일치하도록 제한하는 연결 인식 스케일링 제한을 구현합니다.