Network(2) - Load-balancer

모든 자료는 온라인으로 제공되는 Naver Cloud의 공인교육과정을 참고하였으며,
Naver Cloud Professional 자격증을 준비하시는 분들께 조금이나마 도움이 될까하여 정리해두었던 내용을 공유합니다.
2023년에 작성된 내용이며, VPC Platform 기반의 강의 내용을 정리한 것이니 참고 바랍니다.

 

 

---

 

Load-balancer란?

로드밸런서는 수신 트래픽을 다수 서버로 분산시키는 서비스이다. 등록된 멤버 서버로 수신 트래픽을 분산시켜 가용성을 높이고 시스템 가동률을 조절한다. 이로 인해 워크로드의 가용성을 향상시켜 예기치 못한 서버의 장애 또는 예정된 변경 작업 등에 대하여 중단없이 대응할 수 있도록 지원한다.

 

 

 

Load balancer 기능

• 부하처리 성능에 따라 Small / Medium / Large 중 선택할 수 있음
• 로드밸런서마다 각각 초당 연결수(CPS) 기준이 다름
  • Application : 각 30,000 / 60,000 / 90,000 개의 분산처리를 보장
  • Network : 각 100,000 / 200,000 / 400,000 개의 분산처리를 보장
  • Network Proxy : 각 30,000 / 60,000 / 90,000 개의 분산처리를 보장
• 로드밸런싱 알고리즘 (부하 분산 알고리즘)
  • Round Robin : 클라이언트에서 요청이 오면 서버에 1개씩 분배하는 방식
  • Least Connection : 클라이언트 연결이 제일 적은 서버에게 새로운 커넥션을 분배하는 방식
  • Source IP Hash : 클라이언트 IP에 대한 해시테이블을 가지고 클라이언트 IP에 매핑되는 서버에 새로운 커넥션을 분배하는 방식
• Load balancer 모니터링
  • 기본 모니터링 정보를 제공하며 서버 모니터링 과 마찬가지로 기간 선택에 따라 모니터링 정보 수집 주기를 1분, 5분, 2시간, 1일 단위로 제공
  • 네트워크 로드밸런서 모니터링은 Councurrent Connetion, 초당 Connection, Traffic In, (Un)Available hosts 등 5가지 항목의 정보 제공
  • 애플리케이션 로드밸런서는 추가로 Traffic Out을 포함하여 6가지 항목 제공
• Load balancer 포트 설정
  • 여러개의 로드밸런서 규칙을 동시에 설정할 수 있음.
  • 로드밸런서 포트는 다른 로드밸런서 규칙의 포트와 다르게 설정해야 함.
  • 서버 포트는 다른 로드밸런서 규칙의 서버 포트와 동일하게 설정해도 됨.

 

 

 

Load balancer 타입

Application Load balancer

• HTTP, HTTPS를 사용하는 웹 애플리케이션에서 보다 유연한 구성이 가능
• 고정 IP 제공
• URL 기반 분기 가능 (=경로 기반 라우팅 지원)
  • Path pattern이라는 조건
• 알고리즘은 3가지 제공

Network Load balancer

• 고성능의 분산 처리 가능
• client IP가 그대로 로깅
• 알고리즘은 Hash, RR 만 제공

Network Proxy Load balancer

• 클래식 플랫폼의 LB와 유사한 Proxy 로드밸런서
• 프록시 방식의 통신을 제공하여 세션 유지가 필요한 TCP 기반 애플리케이션에 이용 가능
• 알고리즘은 3가지 제공

사용 케이스 별 로드밸런서 선택

1. TCP 레벨 고성능 분산 처리 → 네트워크 로드 밸런서
   네트워크 로드밸런서는 초당 연결 수 기준 최소 100,000개에서 최대 400,000개까지 성능을 보장하는 단계별 상품을 제공하여 고객 서비스 규모에 최적화된 분산처리 성능을 제공한다. 또한 네트워크 로드밸러서는 트래픽 분배만 수행하고 고객서버에서 직접 응답하는 기능(DSR)을 구현하여 보다 빠르고 효율적인 서비스 이용이 가능하다.
2. TCP 세션 관리 → 네트워크 프록시 로드밸런서
   네트워크 프록시 로드밸런서는 프록시 방식의 통신을 제공하여 세션 유지가 필요한 TCP 기반 애플리케이션에 이용할 수 있다. 또한 애플리케이션 로드밸런서와 동일한 부하 분산 알고리즘을 적용할 수 있다.
3. SSL 및 인증 암호화 설정 → 애플리케이션 로드밸런서 or 네트워크 프록시 로드밸런서
   웹 기반의 콘솔에서 SSL 인증서를 추가할 수 있다. TLSv1, TLSv1.1, TLSv1.2 등 SSL 프로토콜 중 가능한 버전을 선택해 사용할 수 있으며, 적용된 SSL Ciphers를 설정할 수 있다. SSL 인증서는 Certificate Manager와 연동하여 편리하게 관리할 수 있다.
4. 다양한 서버 부하 분산 방식 → 애플리케이션 로드밸런서 or 네트워크 프록시 로드밸런서
   제공하는 서버 부하 분산 방식에서 Round Robin, Least Connetion, Source IP Hash 방식이 있다.
5. L7(Apllication Layer)기능 제공 → 애플리케이션 로드밸런서
   HTTP/HTTPS 트래픽에 대해 패킷 헤더를 확인하여 Application 레벨에서의 분기처리를 제공한다. 로드밸런서의 리스너에 Host Header 기반 분기처리, URL Path Pattern 기반 분기처리, 가중치 기반 분기처리, Rediriection 응답처리와 같은 규칙이 지원되어 보다 상세한 고급 서비스 구성이 가능하다.

프로토콜 별 로드밸런서 선택

• TCP : Netwrok Load balancer
• Proxy_TCP : Network Proxy Load balancer
• HTTP : Application Load balancer
• HTTPS : Application Load balancer

 

 

 

 

Target Group

• 요청을 처리할 대상에 대한 집합
• 동일 VPC 내에 있는 서버들에 대해 타겟 그룹 생성 가능
• 타겟 그룹 안에 있는 서버를 다른 타겟 그룹에 속하게 할 수 있지만 타겟 그룹을 다수의 로드밸런서에 연결할 수는 없음
• 서비스를 수행하는 대상의 프로토콜에 따라 L4와 L7으로 구분
• 헬스체크 주기 (5~300초) 및 임계값 설정
  • vpc 플랫폼 : 디폴트 30초, 주기 변경 가능
  • classic 플랫폼 : 디폴트 6초, 주기 변경 불가능
• 기본은 Round Robin 설정
  • 알고리즘 및 Sticky, Proxy Protocol 설정 변경은 생성 이후에 가능