[클라우드] AWS 부하분산 서비스

Amazon ELB 기능 소개

부하분산이란?

부하분산 : 서버-클라이언트 환경에서 서버가 클라이언트 요청을 받아 처리하는 과정에서 발생하는 부하(연산 작업)에 대해 동일한 목적을 수행하는 다수의 서버에 분산 처리하는 기능

== 로드 밸런싱(load balancing)

로드 밸런서(load balancer) : 부하분산을 수행하는 대상

Amazon ELB 기능

ELB(Elastic Load Balancing)

• Amazon EC2 인스턴스에서 운영중인 애플리케이션, 마이크로서비스 또는 컨테이너 서비스로 유입되는 트래픽을 자동 분산 처리하는 기술
• ELB는 여러 가용 영역에서 작동하여 애플리케이션 가용성을 향상시키고 HTTP, HTTPS, TCP, SSL 등 다양한 프로토콜을 지원하며, 사용자가 같은 인스턴스에서 세션을 유지할 수 있도록 지원함
• 또한 AWS의 CloudWatch 기능을 이용하여 로그와 메트릭을 모니터링할 수 있으며, AWS의 오토 스케일링 기능과 결합해서 트래픽이 증가할 때 자동으로 인스턴스를 추가하거나 제거하면서 애플리케이션 가용성을 유지함
• ELB는 네트워크 및 응용 프로그램 수준의 로드 밸런싱을 지원하여 다양한 애플리케이션에 적용할 수 있으며, SSL 암호화를 지원하여 애플리케이션의 보안을 강화함
• 클라이언트에서 인스턴스로 향하는 트래픽을 ELB가 받아 다수의 대상으로 로드 밸런싱해서 전달하는 것을 확인할 수 있음

Amazon ELB 구성 요소

• 로드밸런서 : 여러 대의 EC2 인스턴스, IP 주소, 람다 등을 사용하여 트래픽을 대상 그룹에 있는 인스턴스로 분산시켜 애플리케이션의 가용성을 유지하는 역할을 함. 로드 밸런서는 사용자 요청을 받아 애플리케이션 서버로 전달하고, 애플리케이션 서버의 응답을 사용자에게 반환함
• 대상 그룹 : 로드밸런서에 분산할 대상의 집합을 정의하는 구성 요소. 대상 그룹의 인스턴스에 대해 정적 또는 동적으로 구성할 수 있으며 라우팅 규칙에 따라 요청을 받아들일 대상 그룹을 선택함. 로드 밸런서는 대상 그룹에 포함된 대상들의 상태를 정기적으로 확인하여 장애 발생 대상을 자동으로 제외하고 정상적으로 동작하는 대상에만 요청을 전달
• 리스너 : 로드 밸런서에서 사용할 포트와 프로토콜을 설정하는 구성 요소. 리스너는 로드 밸런서에서 클라이언트 요청을 수신하고 해당 요청을 처리할 대상 그룹을 선택하는 역할을 함. 리스너는 로드 밸런서에 연결된 프로토콜과 포트를 사용하여 클라이언트 요청을 수신하고 해당 요청을 대상 그룹으로 라우팅 함

Amazon ELB 동작 방식

1. 클라이언트 요청 수신 : 로드 밸런서에서 클라이언트 요청을 수신함. 로드 밸런서는 클라이언트와 연결을 유지하며, 요청을 수신하려고 리스너를 등록함
2. 대상 그룹 선택 : 수신한 클라이언트 요청을 처리할 대상 그룹을 선택함. 대상 그룹은 인스턴스, IP 주소, 람다 함수, ALB 등 여러 유형의 대상으로 구성됨
3. 트래픽 분산 : 선택된 대상 그룹에서 요청을 처리할 대상을 선택하고 해당 대상으로 요청을 분산함. 이때 로드 밸런서는 각 대상의 가용성 상태를 모니터링하고 가용하지 않은 대상을 제외함
4. 응답 반환 : 분산된 요청을 대상에서 처리하고 클라이언트에 응답을 반환함. 이때 응답은 로드 밸런서에서 수신한 것으로 반환되므로, 클라이언트는 로드 밸런서가 대상 그룹에서 선택한 대상에게서 마치 응답을 받는 것처럼 느낄 수 있음

Amazon ELB 교차 영역 로드 밸런싱

ELB는 여러 가용 영역에서 로드 밸런서 노드를 실행하며 각 노드는 가용 영역 내 대상 그룹으로 요청을 분산함. 이때 대상 그룹에 등록된 대상이 여러 가용 영역에 걸쳐 있다면 기본적으로 로드 밸런서는 동일한 비중으로 가용 영역 내에 있는 대상으로 트래픽을 분산함.

-> 가용 영역 내 인스턴스 수량이 불균형할 때 일부 인스턴스로 트래픽이 몰리고 다른 인스턴스는 유휴 상태가 되는 불균형 처리 문제가 발생할 수 있음.

ELB 교차 영역 로드 밸런싱(cross-zone load balancing)

• 여러 가용 영역에 걸쳐있는 EC2 인스턴스나 컨테이너 등 대상을 더 효과적으로 로드 밸런싱하는 기능
• 가용 영역별로 인스턴스 수량이 불균형하게 위치할 때 트래픽 비중을 보정할 수 있으며 트래픽을 분산하는 기준이 가용 영역이 아닌 대상 그룹에 속한 자원을 기준으로 균일한 비중의 로드 밸런싱을 수행할 수 있음

Amazon ELB 종류

CLB

• Classic Load Balancer
• 가장 초기에 출시된 로드 밸런서
• 4계층과 7계층 프로토콜 모두 지원
• HTTP/HTTPS 요청에 따른 최신 HTTPv1.2 프로토콜과 TCP의 SSL/TLS 암호화 프로토콜도 지원하며, SSL 인증서를 사용함
• 고정 IP 주소를 사용하여 로드 밸런서를 생성하고 로드 밸런서에 대한 DNS 이름으로 액세스할 수 있음
• 제약 사항
  • 서버의 기본 주소가 변경되면 로드 밸런서를 새로 생성해야함
  • 기능적인 한계 때문에 포트나 헤더같은 데이터를 수정하거나 변경할 수 없음

ALB

 

• Application Load Balancer
• L7(7계층) 로드 밸런서
• HTTP/HTTPS 같은 웹 애플리케이션 프로토콜을 지원
• 대상 그룹 단위로 트래픽을 분산함
• 각 대상 그룹은 ALB가 요청을 전달할 EC2 인스턴스, 람다 함수, 컨테이너 및 IP 주소로 라우팅하는 기능을 제공
• 특징
  • HTTP헤더를 확인하여 다양한 라우팅 기능을 제공
    • 경로기반 라우팅 : URL 경로를 기반으로 요청을 분산함
    • 호스트 기반 라우팅 : 호스트 이름을 기반으로 요청을 분산함
    • 쿼리 문자열 기반 라우팅 : URL 쿼리 문자열을 기반으로 요청을 분산함
  • 오토 스케일링과 함께사용하여 확장성 있는 애플리케이션을 구성할 수 있음
  • 대상 그룹 내 인스턴스에 대해 상태 검사를 수행하고, 문제가 발생하면 자동으로 장애 조치를 취할 수 있음
  • Amazon CloudWatch Logs와 통합되어 로그 및 지표 데이터를 수집하고 모니터링 및 분석을 할 수 있음

NLB

• Network Load Balancer 
• L4(4계층) 로드 밸런서
• TCP, UDP, TLS 프로토콜을 지원
• ALB와 달리 클라이언트와 로드밸런서 간 연결을 TCP 레벨에서 유지함 -> 대규모 트래픽 처리 가능
• 높은 처리량, 초당 연결 수, 대역폭 등 기능을 제공하며 동일한 IP 주소에서 여러 대상 그룹을 지원할 수 있음
• 특징
  • 높은 처리량 : 초당 수백만 개의 연결을 처리할 수 있음
  • 빠른 응답 시간 : 빠른 응답 시간을 위해 최적화된 L4 로드 밸런싱 알고리즘을 사용
  • 높은 가용성 : 여러 가용 영역에서 인스턴스를 실행하고 매우 빠른 인스턴스 검색을 수행하여 신속하게 장애를 복구함
  • IP 주소 보존 : 클라이언트 IP 주소를 원래 IP 주소로 보존할 수 있음. 이것은 클라이언트 IP 주소를 유지하면서 로드 밸런싱을 수행할 수 있다는 것을 의미
  • 모니터링 : AWS CloudTrail, Amazon CloudWatch Logs 같은 모니터링 기능을 지원

GWLB

• GateWay Load Balancer
• 네트워크 트래픽을 서드 파티의 방화벽/어플라이언스 장비로 부하분산 처리하는 로드 밸런서
• 서드 파티의 방화벽/어플라이언스 장비를 쉽게 배포하고 확장 및 관리할 수 있음
• 요청에 따라 트래픽을 확장하거나 축소하면서 다수의 서드 파티 장비에 로드 밸런싱을 처리함
• VPC 내에서 실행되는 애플리케이션의 가용성과 확장성을 향상시키는데 사용되며 TCP 및 UDP 프로토콜을 지원하여 다양한 유형의 애플리케이션에 유연하게 적용할 수 있음