Açma-Kapama Ölçeklendirme Mimarisi

Parti yoğun veya periyodik iş yüklerine sahip MicrocosmWorks müşterileri, açma-kapama ölçeklendirmeyi uyguladıktan sonra genellikle %60-80 oranında bulut maliyeti düşüşü görür, çünkü bilgi işlem kaynakları 7/24 çalışmak yerine yalnızca aktif işlem pencerelerinde çalışır. Ölçeklendirme politikalarını gerçek kullanım telemetrisine göre tasarlarız; örneğin, günde 4 saat çalışan bir veri işleme hattı, tam 24 saat yerine yalnızca bu 4 saatin ücretini öder. Mimarlarımız, herhangi bir uygulamanın başlamasından önce kesin tasarrufları tahmin etmek için keşif aşamasında iş yükü modellerinizi analiz eder.

Soğuk başlangıç süreleri, önceden ısıtılmış düğüm havuzlarındaki kapsayıcılı uygulamalar için 2-3 saniyeden, özel GPU örnekleri veya büyük model yüklemesi gerektiren iş yükleri için 5-10 dakikaya kadar değişir ve MicrocosmWorks bu gecikmeyi en aza indirmek için çeşitli teknikler kullanır. Geçmiş trafik modellerini ve planlanmış olayları kullanarak beklenen talepten önce kaynakları devreye sokan öngörücü ölçeklendirme uyguluyoruz ve gecikmeye duyarlı iş yükleri için kapsayıcı görüntüsü önceden çekme (pre-pulling) ve sıcak havuz rezervasyonları kullanıyoruz. Hiçbir soğuk başlangıcı tolere edemeyen uygulamalar için, talep geldiğinde agresif bir şekilde ölçeklenen minimum sıcak bir taban hattı sürdürüyoruz.

MicrocosmWorks, kuyruk derinliği, CPU kullanımı veya özel uygulama metrikleri tarafından tetiklenen agresif ölçeklendirme politikalarına sahip reaktif otomatik ölçeklendirme uygular ve bu politikalar, aşırı yüklenmeyi (thrashing) önlemek için bekleme sürelerini içeren daha kademeli ölçeklendirme politikalarıyla birleştirilir. Ölçeklendirme olayları sırasında aşırı sağlama (over-provisioning) tamponları yapılandırırız, böylece sistem talebi tek tek örneklerle kovalamak yerine sürekli büyümeyi tahmin eder. Flaş satışlar veya viral olaylar gibi gerçekten öngörülemeyen ani artışlar için, pazarlama veya operasyon takviminizden gelen olay odaklı tetikleyicileri kullanarak kapasiteyi önceden sağlarız.

MicrocosmWorks, boşta kalma sürelerinde bilgi işlemi sıfıra ölçeklendirirken depolamayı kalıcı ve anında erişilebilir tutan Aurora Serverless, Neon veya PlanetScale gibi sunucusuz veritabanı tekliflerini kullanarak veritabanlarına açma-kapama ölçeklendirmesi uygular. Sunucusuz veritabanlarını kullanamayan durum bilgisi olan (stateful) iş yükleri için, sorgu yüküne göre replikalar ekleyip çıkaran ve minimum bir birincil örneği her zaman çalışır durumda tutan okuma replikası ölçeklendirmesi uyguluyoruz. Bu hibrit yaklaşım, istemcilere veri katmanları için ölçeklendirmenin maliyet faydalarını, kapatma ve yeniden başlatma döngüleri sırasında veritabanı durumunu yönetmenin karmaşıklığı olmadan sunar.

MicrocosmWorks, Grafana veya Datadog panolarını kullanarak örnek sayılarını, ölçeklendirme olayı gecikmesini, başarısız ölçeklendirme girişimlerini ve istenen ile gerçek kapasite arasındaki farkı gerçek zamanlı olarak izleyen kapsamlı ölçeklendirme gözlemlenebilirliği dağıtır. Ölçeklendirme hataları, ölçeklendirme tavanının çok düşük olduğunu düşündüren sürekli yüksek kullanım ve kontrol dışı ölçeklendirmeyi gösteren maliyet anormallikleri için çok kanallı uyarılar yapılandırırız. Runbooklarımız, bulut sağlayıcısı örnek limitlerine ulaşma veya belirli kullanılabilirlik bölgelerinde yetersiz kapasite hatalarıyla karşılaşma gibi yaygın hata modları için otomatik düzeltmeleri içerir.