Scaling

Sticky Session은 같은 클라이언트의 요청이 항상 같은 서버로 가도록 로드밸런서가 보장하는 기능이다. 서버가 세션 상태를 메모리에 들고 있는 경우 필요하지만, 부하 불균형과 수평 확장 어려움이라는 근본적인 문제를 가진다. 왜 피해야 하는지, 불가피할 때 어떻게 쓰는지 설명한다.

HPA가 파드 수를 조절하면, 새 파드를 올릴 노드가 부족해지는 상황이 생긴다. Cluster Autoscaler는 Pending 상태인 파드를 감지해 노드를 추가하고, 유휴 노드를 제거해 비용을 절감한다. HPA와 어떻게 협력하는지, 노드를 어떻게 선택하는지, 스케일 인 중 파드 안전성을 어떻게 보장하는지, 그리고 차세대 도구인 Karpenter와의 차이를 설명한다.

데이터와 트래픽이 한 대의 서버가 감당할 수 있는 한계를 넘으면 어떻게 할까. 샤딩이 무엇인지, 복제와 어떻게 다른지, 샤드 키와 분할 방식(범위·해시·디렉토리)이 무엇인지, 핫스팟과 리샤딩과 교차 샤드 조인 같은 대가가 왜 따라오는지, 그리고 언제 샤딩을 선택해야 하는지를 설명한다.