ロードバランシング

ロードバランサーの役割

ロードバランサーは、クライアントからのリクエストを受け取り、 背後にある複数のサーバー(バックエンド)に振り分ける役割を持つコンポーネントです。 これにより特定のサーバーへの負荷集中を避け、1台が停止しても全体としてはサービスを継続できるようになります。

Client --> Load Balancer --+--> Server A
                            +--> Server B
                            +--> Server C

  ロードバランサーがどのサーバーに送るかをリクエストごとに決定する

代表的な分散アルゴリズム

L4とL7ロードバランシングの違い

ロードバランサーがどのネットワーク層の情報を見て振り分けるかによって、L4とL7に分類されます。

L4 Load Balancer (Transport Layer)
  見る情報: 送信元/宛先IP, ポート番号
  特徴: 中身を解析しないため高速。TCP/UDP全般に使える

L7 Load Balancer (Application Layer)
  見る情報: HTTPヘッダー, URLパス, Cookieなど
  特徴: "/api/*" は Aサーバー群へ、"/static/*" は Bサーバー群へ、
        のようにリクエスト内容に応じた柔軟な振り分けができる

ヘルスチェックとフェイルオーバー

ロードバランサーは定期的に各バックエンドへ疎通確認(ヘルスチェック)を行い、応答が異常な サーバーを一時的に振り分け対象から外します。これにより、障害の起きたサーバーにリクエストが 送られ続けてユーザーがエラーを受け取り続ける事態を防ぎます(フェイルオーバー)。

// 擬似コード: ヘルスチェックの動き
every 10 seconds:
    for server in backendServers:
        response = ping(server + "/health")
        if response.status != 200:
            markUnhealthy(server)   // 振り分け対象から除外
        else:
            markHealthy(server)     // 振り分け対象に復帰