Sunucusuz Odaklı Mimari

Serverless-first; 15 dakikayı aşan uzun süreli işlemler, kalıcı WebSocket bağlantıları gerektiren iş yükleri, ayrılmış kapasitenin daha ucuz olduğu, sürekli yüksek işlem hacimli trafiğe sahip uygulamalar ve düşük seviyeli OS veya ağ yapılandırması gerektiren sistemler için uygun değildir. MicrocosmWorks, mimari tasarım sırasında her iş yükünü bu kısıtlamalara göre değerlendirir ve serverless'ın API uç noktalarını ve olay işlemeyi yönettiği, container'ların veya VM'lerin ise kalıcı bilgi işlem gerektiren iş yüklerini çalıştırdığı hibrit yaklaşımlar önerir. Bu pragmatik yaklaşım, her bileşeni uygun olmadığı durumlarda serverless'a zorlama gibi yaygın bir hatadan kaçınır.

MicrocosmWorks, Lambda soğuk başlatmalarını kritik uç noktalar için sağlanan eşzamanlılık (provisioned concurrency), başlatma süresini azaltmak için işlev paketi optimizasyonu (function bundle optimization) ve Java iş yükleri için Lambda SnapStart'ın stratejik kullanımıyla hafifletir; bu da soğuk başlatmaları saniyelerden milisaniyelere düşürür. Uygulamaları ayrıca, gecikmeye duyarlı yolların Node.js veya Python gibi hafif çalışma zamanlarını (runtimes) minimum bağımlılıklarla kullanmasını sağlayacak şekilde mimarileriz, böylece sağlanan eşzamanlılık (provisioned concurrency) olmasa bile soğuk başlatmaları 200 ms'nin altında tutarız. Bu gecikmenin bile kabul edilemez olduğu uç noktalar için, 10 ms'nin altında yanıtlar için Lambda@Edge veya CloudFront Functions kullanırız.

MicrocosmWorks, geliştiricinin makinesinde bulut hizmetlerini üretime yakın doğrulukla taklit eden SST (Serverless Stack), LocalStack veya Serverless Framework'ün offline modu gibi araçlar kullanarak yerel geliştirme ortamları kurar. Her pull request için oluşturulan geçici bulut ortamlarına karşı çalışan entegrasyon test paketleri uyguluyoruz, böylece geliştiriciler bir staging ortamı paylaşmadan gerçek AWS hizmetlerine karşı doğrulama yapabilir. Bu ikili yaklaşım, geliştirme için hızlı yerel iterasyon döngüleri sağlarken, kod üretime ulaşmadan önce buluta özgü sorunları yakalar.

MicrocosmWorks, serverless mimarinin değişken veya yoğun traffic patterns olan uygulamalar için önemli ölçüde daha ucuz olduğunu bulmuştur —genellikle eşdeğer sürekli çalışan container deployments'tan %70-90 daha az maliyetli— ancak maliyet avantajı, aylık 10-20 milyon invocations üzerindeki sürekli throughputs'larda azalmaktadır. Architecture design aşamasında, serverless per-invocation pricing'i belirli traffic patterns'ınız için ayrılmış container capacity ile karşılaştıran maliyet projeksiyon modelleri oluşturuyoruz. Buna API Gateway charges ve data transfer fees gibi gizli maliyetler de dahildir. $10-$35/saat consulting rates ile sunulan optimization service'imiz, over-provisioned memory, aşırı function durations veya gereksiz API Gateway usage'ından kaynaklanan israfı tespit etmek için serverless billing'i düzenli olarak inceler.

MicrocosmWorks, Lambda işlevleri ile veri tabanı arasında kalıcı bir katman olarak konuşlandırılan Amazon RDS Proxy veya PgBouncer gibi bağlantı havuzu proxy'leri kullanır; bu proxy'ler, binlerce Lambda bağlantısını yönetilebilir bir gerçek veri tabanı bağlantıları havuzuna çoklar. Bağlantı havuzunun hala darboğazlar yaratacağı yüksek eşzamanlılıklı iş yükleri için sunucusuz uygulamaları DynamoDB veya diğer bağlantısız veri tabanlarını tercih edecek şekilde tasarlarız. İlişkisel veri tabanları kullanması gereken uygulamalar için, eşzamanlı Lambda çağrılarını veri tabanının bağlantı kapasitesine uyacak şekilde sınırlayan bağlantı farkındalıklı ölçeklendirme limitleri uygularız.