무엇이 부하 균형입니까?

2022-06-01 last update

5 minutes reading High Availability Conceptual Load Balancing

소개

로드 밸런싱은 일반적으로 여러 서버에 워크로드를 분산하여 웹 사이트, 애플리케이션, 데이터베이스 및 기타 서비스의 성능과 신뢰성을 향상시키는 데 사용되는 고가용성 인프라의 핵심 구성 요소입니다.
로드 밸런싱이 없는 웹 인프라는 다음과 같습니다.

이 예에서 사용자는 웹 서버(yourdomain.com)에 직접 연결됩니다.만약 이 웹 서버가 다운된다면, 사용자는 이 사이트를 다시 방문할 수 없을 것이다.또한 많은 사용자들이 서버에 동시에 접근하려고 하는데 서버가 부하를 처리할 수 없다면 느린 불러오는 시간을 겪거나 연결할 수 없을 수도 있다.
백엔드에 부하 평형기와 최소한 하나의 추가 웹 서버를 도입하면 이런 단일 고장을 완화할 수 있다.일반적으로 모든 백엔드 서버는 사용자가 일치하는 내용을 수신할 수 있도록 똑같은 내용을 제공한다.

상기 예시에서 사용자는 부하 평형기에 접근하고 부하 평형기는 사용자의 요청을 백엔드 서버로 전송한 다음에 백엔드 서버가 사용자의 요청에 직접 응답한다.이 장면에서 단일 고장은 현재 부하 평형기 자체이다.이것은 두 번째 부하 평형기를 도입하여 완화시킬 수 있지만, 우리가 토론하기 전에 부하 평형기가 어떻게 작동하는지 먼저 토론합시다.

부하 평형기는 어떤 유형의 유량을 처리할 수 있습니까?

로드 밸런서 관리자는 네 가지 주요 유형의 트래픽에 대해 전달 규칙을 작성합니다.

HTTP - 표준 HTTP 밸런싱은 표준 HTTP 메커니즘을 바탕으로 요청을 안내합니다.부하 평형기는 원시 요청에 대한 백엔드 정보를 제공하기 위해 X-Forwarded-For, X-Forwarded-Proto 및 X-Forwarded-Port 헤더를 설정합니다.

HTTPS-HTTPS 밸런스 기능은 HTTP 밸런스와 같지만 암호화가 추가되었습니다.암호화의 처리 방식은 두 가지가 있다. 하나는 SSLpassthrough를 사용하여 백엔드까지 암호화를 유지하는 것이고, 다른 하나는 SSL을 사용하여 종료하는 것이다. 암호화 해제 부담을 부하 평형기에 두지만 암호화되지 않은 데이터를 백엔드로 보내는 것이다.

TCP- HTTP 또는 HTTPS를 사용하지 않는 응용 프로그램의 경우 TCP 트래픽을 균형 있게 조정할 수 있습니다.예를 들어 데이터베이스 집단에 대한 데이터는 모든 서버에 분포할 수 있다.

UDP - 최근 일부 부하 평형기는 UDP를 사용하는 DNS와syslogd 등 핵심 인터넷 프로토콜에 대한 부하 균형 지원을 추가했다.

이러한 전송 규칙은 로드 밸런서 자체의 프로토콜과 포트를 정의하고 이를 로드 밸런서에 매핑하여 백엔드에서 데이터를 라우팅하는 프로토콜과 포트에 사용합니다.

부하 평형기는 백엔드 서버를 어떻게 선택합니까?

부하 평형기는 두 가지 요소의 조합에 따라 요청을 어느 서버로 전달할지 선택합니다.그들은 우선 그들이 선택할 수 있는 모든 서버가 실제로 요청에 적절하게 응답하고 있는지 확인한 다음에 미리 설정된 규칙을 사용하여 정상적인 풀에서 선택할 것이다.

건강검진

부하 평형기는 데이터를'정상'의 백엔드 서버에만 전달해야 한다.백엔드 서버의 상태를 감시하려면 상태 검사는 정기적으로 전송 규칙에 정의된 프로토콜과 포트를 백엔드 서버에 연결하여 서버가 탐지하고 있는지 확인합니다.서버가 상태 점검을 통과하지 않아 요청에 서비스를 제공할 수 없으면 풀에서 자동으로 삭제되고 서버가 상태 점검에 다시 응답하기 전에 데이터를 전송하지 않습니다.

부하 균형 알고리즘

사용된 부하 균형 알고리즘은 백엔드에서 어떤 정상적인 서버를 선택할지 결정합니다.일반적인 알고리즘은 다음과 같습니다.
순환 - 순환은 서버를 순서대로 선택하는 것을 나타냅니다.부하 평형기는 첫 번째 요청에 대해 목록에 있는 첫 번째 서버를 선택한 다음 순서대로 목록을 아래로 이동하고 끝에 도달하면 위에서 다시 시작합니다.
최소 연결 수 - 최소 연결 수는 부하 평형기가 가장 적은 연결 수의 서버를 선택하고 데이터가 더 긴 세션을 만들 때 사용하는 것을 권장합니다.
Source - Source 알고리즘을 사용하여 요청된 소스 IP의 해시 값(예: 방문자의 IP 주소)에 따라 사용할 서버를 로드밸런싱합니다.이 방법은 특정 사용자가 항상 같은 서버에 연결될 수 있도록 합니다.
관리자가 사용할 수 있는 알고리즘은 특정 부하 균형 기술에 따라 다르다.

부하 평형기는 어떻게 상태를 처리합니까?

일부 애플리케이션에서는 동일한 백엔드 서버에 계속 접속해야 합니다.소스 알고리즘은 클라이언트 IP 정보를 기반으로 연관성을 생성합니다.웹 응용 프로그램 단계에서 이 점을 실현하는 또 다른 방법은 점성 세션을 통해 부하 평형기를 통해 쿠키를 설정하는 것이다. 이 세션에서 온 모든 요청은 같은 물리 서버로 지정된다.

이중화 로드 밸런서

부하 평형기를 단일 고장으로 삭제하려면 두 번째 부하 평형기를 첫 번째 부하 평형기에 연결하여 집단을 형성하고, 그 중에서 각 부하 평형기는 다른 부하 평형기의 운행 상황을 감시할 수 있다.각각은 동일한 장애 감지 및 복구 기능을 제공합니다.

주 로드 밸런서에 장애가 발생하면 DNS는 사용자를 두 번째 로드 밸런서로 데려가야 합니다.DNS 변경은 인터넷에 전파되고 페일오버가 자동으로 이루어지는 데 상당한 시간이 소요될 수 있으므로 많은 관리자가 floating IPs과 같은 유연한 IP 주소 재매핑을 허용하는 시스템을 사용합니다.필요에 따라 IP 주소를 재매핑하여 필요할 때 쉽게 재매핑할 수 있는 정적 IP 주소를 제공하여 DNS 변경에서 고유한 전파 및 캐시 문제를 제거합니다.도메인 이름은 동일한 IP 주소와 연결될 수 있으며 IP 주소 자체는 서버 간에 이동합니다.
이것이 바로 부동 IP를 사용하는 고가용성 인프라의 외관입니다.

결론

본고에서 우리는 부하 평형기의 개념과 그들의 일반적인 작업 방식을 개술하였다.특정 로드 밸런싱 기술에 대한 자세한 내용은 다음과 같습니다.