Yük dengeleyicinin adı yanıltıcıdır. Yükü dağıtmak yaptığı işlerden yalnızca biridir; çoğu ortamda asıl değeri arızalı sunucuyu trafikten çıkarmasıdır. Ölçek değil, süreklilik.
Temel işleyiş
İstemciler tek bir adrese bağlanır. Yük dengeleyici o isteği arkasındaki sunuculardan birine iletir ve yanıtı geri taşır.
İstemci arkada kaç sunucu olduğunu bilmez. Sunucu ekleyip çıkarmak, güncelleme yapmak ve bakıma almak istemciye görünmeden yapılabilir — bu esneklik, tek bir sunucuya doğrudan bağlanan bir düzende mümkün değildir.
Basit bir alternatif olan DNS ile dağıtım aynı işi yapmaz: DNS arkadaki sunucunun ayakta olup olmadığını bilmez ve çöken bir sunucunun adresini dağıtmaya devam eder. Ayrım DNS kayıt türleri yazısında.
Katman 4 ve katman 7
İki çalışma düzeyi vardır ve yetenekleri farklıdır.
Katman 4 taşıma düzeyinde çalışır: IP adresi ve porta bakar, içeriği görmez. Hızlıdır, az kaynak tüketir, her protokolle çalışır.
Katman 7 uygulama düzeyinde çalışır: HTTP başlıklarını, yolu ve çerezleri okur. Bu, içeriğe göre yönlendirme yapmayı mümkün kılar — /api bir gruba, /statik başka bir gruba.
Katman 7 ayrıca TLS’i sonlandırabilir, başlık ekleyebilir ve önbellekleme yapabilir. Bedeli, trafiği açması ve daha fazla işlem gücü gerektirmesidir.
Katmanların genel çerçevesi OSI modeli yazısında.
Dağıtım algoritmaları
Sırayla (round robin) en basitidir: istekler sunuculara dönüşümlü gider. Sunucular eşit güçteyse ve istekler benzer maliyetteyse yeterlidir.
En az bağlantı, o an en az aktif bağlantısı olana yönlendirir. İstek süreleri değişkense sırayla dağıtmaktan belirgin biçimde iyidir.
Ağırlıklı dağıtım, güçlü sunuculara daha fazla pay verir. Farklı nesil donanımların bir arada bulunduğu ortamlarda gerekir.
Karma (hash) tabanlı yöntem, istemci IP’sinden bir değer türetip hep aynı sunucuya gönderir. Oturum sorununu çözer ama dağılımı bozabilir.
Sağlık denetimi asıl iştir
Yük dengeleyicinin değeri, sunucunun ayakta olup olmadığını bilmesinden gelir. Bu bilgi sağlık denetimlerinden çıkar ve nasıl kurulduğu her şeyi belirler.
Yüzeysel bir denetim — yalnızca portun açık olması — yanıltıcıdır. Süreç ayaktadır ama veritabanına bağlanamıyor olabilir; yük dengeleyici trafiği göndermeye devam eder ve kullanıcılar hata alır.
Doğru denetim uygulamanın gerçekten iş yapabildiğini sınar. Ama fazla derine inmek de tehlikelidir: sağlık uç noktası veritabanına bağlanmayı deniyorsa, veritabanının kısa bir kesintisi tüm sunucuları aynı anda trafikten düşürür ve küçük bir sorunu tam kesintiye çevirir.
Denge şudur: denetim “bu sunucu istek karşılayabilir mi” sorusunu yanıtlamalı, bağımlılıkların genel durumunu değil. Aynı ayrım Kubernetes tarafında da geçerlidir; Service ve ağ erişimi rehberinde ele alınıyor.
Oturum yapışkanlığı
Bir kullanıcının isteklerinin hep aynı sunucuya gitmesi gerekebilir — oturum bilgisi o sunucunun belleğinde tutuluyorsa.
Yük dengeleyici bunu çerezle ya da IP tabanlı eşlemeyle sağlar. Çalışır, ama iki sorun getirir: o sunucu çöktüğünde kullanıcı oturumunu kaybeder, ve yük dağılımı bozulur.
Daha sağlam çözüm, oturumu sunucudan çıkarmaktır — ortak bir önbellek ya da veritabanında saklamak. O zaman her sunucu her isteği karşılayabilir ve yapışkanlığa gerek kalmaz.
İstemci IP’si kaybolur
Yük dengeleyici araya girdiğinde sunucular istekleri onun adresinden görür. Günlüklerde gerçek istemci IP’si kaybolur; erişim kuralları ve hız sınırlama yanlış çalışır.
Katman 7’de çözüm başlık eklemektir — sunucu gerçek adresi oradan okur. Ama bu başlığa güvenmek için yük dengeleyici dışından gelen isteklerde onu temizlemek gerekir, aksi hâlde istemci kendi adresini uydurabilir.
Katman 4’te ayrı bir protokol ya da kaynak adresi koruyan bir kip kullanılır. Adres çevirisinin genel mantığı NAT nedir yazısında.
Kendisi tek arıza noktasıdır
Tüm trafiği tek bir cihazdan geçirmek, o cihazı en kritik bileşen hâline getirir. Yük dengeleyici çökerse arkasındaki sunucuların hepsi ayakta olsa da hizmet durur.
Bu yüzden yük dengeleyiciler çift kurulur ve aralarında bir devralma mekanizması bulunur. Bulut hizmetlerinde bu yerleşiktir; kendi kurulumunuzda açıkça tasarlanmalıdır.
Erişilebilirlik hedefinin rakama dökülmesi SLA hesaplayıcı aracında, mimari tercihler yüksek erişilebilirlik mi felaket kurtarma mı rehberinde.
Kısaca
Yük dengeleyici trafiği dağıtır, ama asıl değeri arızalı sunucuyu devre dışı bırakması ve bakımı görünmez kılmasıdır.
Katman 4 hızlı ve basit, katman 7 esnek ve içerik farkındadır. Kurulumun kalitesini belirleyen tek şey sağlık denetiminin ne kadar doğru tasarlandığıdır — ve dengeleyicinin kendisinin yedeklenmiş olması.