[네트워킹] 로드 밸런싱(Load Balancing)

✅ 로드 밸런싱(Load Balancing)이란 ?

둘 이상의 CPU or 저장 장치와 같은 컴퓨터 자원들에게 작업을 나누는 것

• Scale-Up : 서버의 자원이 부족하여 서버의 스펙을 상승 시키는 것 
• Scale-Out : 컴퓨팅의 성능 상승보다 컴퓨팅 수를 늘리는 것
• Scale-In : 작업이 완료되어 더 이상 필요없는 Scale Out으로 늘렸던 컴퓨팅 수를 줄이는 것

하드웨어 비용, 무중단 서비스 제공 환경 구성의 용이성 등을 따졌을 때 Scale-Out 방식을 채택한다.

 

 

✅ 로드 밸런서

로드 밸런싱 기술을 제공하는 서비스 또는 장치를 로드 밸런서라고 한다.

LB는 클라이언트와 네트워크 트래픽이 집중되는 서버들 사이에 위치하며 VIP (Virtual IP)와 함께 구성된다.

• VIP : VIP란 로드 밸런싱의 대상이 되는 여러 서버를 대표하는 가상의 IP이다.
  클라이언트들은 서버의 IP로 직접 요청을 하는 것이 아니라 LB가 가지고 있는 VIP를 대상으로 요청한다.
  그리고 LB는 설정된 부하 분산 방법에 따라 각 서버로 요청을 분산한다.

 

✅ 로드 밸런서 동작 방식

L4 기준 동작방식

1. 브라우저에서 aaa.co.kr 을 입력 → PC에 설정된 Local DNS 서버로 DNS 쿼리를 날린다 
→ Local DNS 서버는 aaa.co.kr을 관리하는 DNS 서버(Authoritative DNS 서버)에 DNS 쿼리를 날리고 L4의 VIP 주소를 획득한다.

2. Local DNS는 획득한 VIP 주소를 전송한다.

3. 획득한 DNS를 기반으로 L4 VIP로 http를 요청한다.

4. LB 장비는 최적의 서비스 서버를 내부 알고리즘을 통해 선별하고 요청을 전송한다.

5. 전달받은 http 결과를 LB 장비를 통해 Client에게 전송함으로 요청 처리를 끝낸다.

 

 

✅ Bridge/Transparent Mode

• 요청
  • 사용자가 L4의 VIP로 요청을 전송한다. 
  • L4에서 Real Server로 전송 시, Dst IP를 VIP에서 Real Server IP로 NAT 수행한다.
  • 동일한 네트워크 대역이므로 Dst MAC 주소만 변경된다.
• 응답
  • Real Server에서 서비스 응답 시, Destination IP가 다른 대역의 IP이므로 Gateway(Router)로 전송한다.
  • Real Server에서 L4를 거치면서 Source IP를 VIP로 NAT 수행한다.
  • 동일한 네트워크 대역이므로 MAC 주소는 변경되지 않는다.

 

 

✅ 로드 밸런서 기본 기능 

• 상태 확인(Health Check)
  로드 밸런서는 서버들에 대한 주기적인 상태 확인을 통해 서버들의 장애 여부를 판단할 수 있다. 
  이로 인해, 서버에 이상이 생기면 정상적으로 작동하는 서버로 트래픽을 보내주는 Fail-Over가 가능하며,
  또한 TCP/UDP 분석이 가능하기 때문에 방화벽의 역할도 수행할 수 있다.
  
  
• 터널링(Tunneling)
  터널링은 인터넷 상에서 눈에 보이지 않는 통로를 만들어 통신할 수 있게 하는 개념이다.
  데이터를 캡슐화해서 연결된 상호 간에만 캡슐화된 패킷을 구별해 캡슐화를 해제할 수 있다.
  로드 밸런서의 VIP 주소로 향하는 요구 패킷이 로드 밸런싱 서버로 전달되면 로드 밸런싱 서버에서 패킷의 목적지 주소와 포트를 검사하여 가상 서버 정책과 일치할 경우, 스케줄링에 따라 실제 작업 서버로 전달하게 된다.
  이때 패킷을 일반적인 스트림 방식으로 전달하는 것이 아닌 캡슐 형식으로 감싸서 전달하게 된다.
  이렇게 전달되면 작업 서버에서는 감싸진 패킷을 다시 풀고 요청을 처리한다.
  
  
• NAT(Network Address Translation)
  IP 주소를 변환해 주는 기능이다.
  예를 들어, 내부 네트워크에서 사용하던 사설 IP 주소를 로드 밸런서 외부의 공인 IP 주소로 변경해 주며, 반대 과정도 가능하다.
  이렇게 하면 부족한 공인 IP 주소를 효율적으로 사용할 수 있지만,
  로드 밸런싱 관점에서는 여러 개의 호스트가 하나의 공인 IP 주소 (VIP)를 통해 접속하는 것이 주 목적이다.
  • SNAT(Source Address Translation)
    내부에서 외부로 트래픽이 나가는 경우, 내부 사설 IP 주소를 외부 공인 IP 주소로 변환하는 방식이다.
    집에서 사용하는 공유기가 대표적인 예이다.
  • DNAT(Destination Address Translation)
    외부에서 내부로 트래픽이 들어오는 경우, 외부 공인 IP 주소를 내부의 사설 IP 주소로 변환하는 방식이다.
    
• DSR(Direct Server Routing)
  서버에서 클라이언트로 되돌아가는 경우, 목적지를 설정한 다음 네트워크 장비나 로드 밸런서를 거치지 않고
  바로 클라이언트로 찾아가는 방식이다. 로드 밸런서의 부하를 줄여줄 수 있는 장점이 있다.

 

 

✅ 로드 밸런서의 종류

• L4 로드 밸런서
  L4 계층에서 동작하며, 네트워크 계층(IP, IPX)이나 트랜스포트 계층(TCP, UDP)의 정보를 바탕으로 부하를 분산한다.
  즉, IP주소나 포트 번호, MAC 주소 전송 프로토콜 등에 따라 트래픽을 나누고 분산 처리하는 것이 가능하다. 
  이러한 이유로 L4 로드 밸런서를 CLB(Connection Load Balancer) 혹은 SLB(Session Load Balancer)라고도 한다.
  
  
• L4 로드 밸런싱 방법
  

  라운드 로빈 (Round Robin)	요청이 들어오는 대로 서버마다 균등하게 요청을 분배한다. 단순히 순서에 따라 세션을 할당하므로 경우에 따라 경로 별로 같은 처리량이 보장되지 않는다.
  가중치 및 비율 할당 방식 (Weighted Round Robin Scheduling)	라운드 로빈 방식으로 분배하지만, 서버의 가중치에 따라 요청을 더 분배하기도, 덜 분배하기도 한다. 서버 가중치는 사용자가 지정할 수 있고, 동적으로 조정되기도 한다. 특정 서버의 성능이 월등히 뛰어나다면 해당 서버에게 높은 가중치를 부여한다.
  최소 연결 (Least Connection)	가장 적은 세션을 가진 서버로 트래픽을 보내는 방식이다. 가장 많이 사용되는 방식이라고 한다.
  가장 빠른 응답 시간 (Fastest Response Time)	가장 빠른 응답 시간을 보내는 서버로 트래픽을 보내 주는 방식이다. 각 서버들의 가용 가능한 리소스와 성능, 그리고 처리 중인 데이터 등이 다를 경우 적합한 방식이다.
  해시 기반 스케줄링 (Source hash Scheduling)	사용자의 IP를 해싱한 후 그 결과에 따라 서버로 요청을 분배하기 때문에 특정 클라이언트는 특정 서버로만 할당하는 방식이다.
  대역폭 (Bandwidth) 기반	서버들과의 대역폭을 고려하여 트래픽을 분산하는 방식이다.

• L7 로드 밸런서
  L7 로드 밸런서는 L4 로드 밸런서의 기능을 포함하는 것 뿐만 아니라
  애플리케이션 계층 (HTTP, SMTP, FTP)의 정보를 바탕으로도 분산 처리가 가능하다.
  쉽게 말해서 HTTP 헤더, 쿠키 등과 같은 사용자의 요청을 기준으로 특정 서버에 트래픽을 분산하는 것이 가능하다.
  URL에 따라 부하를 분산하거나, HTTP 헤더의 쿠키 값에 따라 부하를 분산하는 등
  클라이언트의 요청을 보다 세분화해 서버에 전달할 수 있다.
  또한, L7 로드 밸런서의 경우 특정한 패턴을 지닌 바이러스를 감지해 네트워크를 보호할 수 있으며,
  Dos/DDoS와 같은 비정상적인 트래픽을 필터링할 수 있어 네트워크 보안 분야에서도 활용되고 있다.
  
  
• L7 로드 밸런싱 방법 
  

  URL 스위칭 방식 (URL Switching)	특정 하위 URL들은 특정 서버로 처리하는 방식이다. 예를 들어, '.../images' 또는 '.../video'와 같은 URL은 서버가 아닌 별도의 스토리지에 있는 객체 데이터로 바로 연결되도록 구성할 수 있다.
  컨텍스트 스위칭 방식 (Context Switching)	클라이언트가 요청한 특정 리소스에 따라 특정 서버로 연결할 수 있다. 예를 들어, 이미지 파일에 대해서는 확장자를 참조해 별도로 구성된 이미지 파일이 있는 서버 또는 스토리지 직접 연결해 줄 수 있다.
  쿠키 지속성 (Persistence with Cookies)	쿠키 정보를 바탕으로 클라이언트가 연결했었던 서버에 계속 할당해 주는 방식이다.

 

 

✅ L4 vs L7

 

📌 참고

https://steady-coding.tistory.com/535

https://pakss328.medium.com/%EB%A1%9C%EB%93%9C%EB%B0%B8%EB%9F%B0%EC%84%9C%EB%9E%80-l4-l7-501fd904cf05