study.

Taint와 Toleration으로 전용 노드 구분하기 · Kubernetes

노드의 배제 조건을 허용하는 것과 그 노드로 배치를 강제하는 것은 다릅니다.

← Kubernetes

진도·퀴즈와 함께 학습하기

먼저, 개념을 잡아볼게요.

Taint는 배제, Toleration은 허용

노드의 taint에 대응하는 toleration이 없으면 해당 효과가 적용됩니다. toleration을 넣는 것만으로 특정 노드로 이동하지는 않으므로 전용 노드에만 두려면 nodeSelector나 required affinity를 함께 사용합니다.

세 가지 효과

NoSchedule은 새로운 배치를 제한하고 기존 Pod를 퇴거시키지 않습니다. PreferNoSchedule은 완화된 회피이고 NoExecute는 허용되지 않는 기존 Pod의 퇴거도 유발할 수 있습니다. 이 실습은 NoSchedule만 사용합니다.

격리와 권한의 차이

taint는 보안 경계가 아닙니다. 누구나 넓은 toleration을 선언할 수 있으면 접근 통제 효과를 기대할 수 없습니다. 운영 전용 풀은 admission 정책·권한과 보호된 label 설계를 함께 검토합니다.

왜 필요한가요?

전용 GPU 노드에서 일반 작업을 피하고 싶다면 taint로 배제를 표현하고 허용할 앱에는 정확한 toleration을 줍니다. 허용된 앱을 GPU 노드에만 두는 일은 별도 선택 조건이 맡습니다.

차례대로 이해하기

배제와 선택을 양쪽으로 보기

Node의 key/value/effect와 Pod의 toleration을 대조합니다. Exists처럼 넓은 조건은 더 많은 taint를 허용할 수 있습니다. 이 실습은 Equal과 구체적인 key/value/effect를 사용해 범위를 좁힙니다.

변경 전후의 기존 실행

먼저 existing Pod를 준비시킨 후 NoSchedule을 추가합니다. existing이 남고 새 blocked가 대기하는 차이를 관찰하세요. NoExecute로 바꾸면 퇴거까지 영향이 달라지므로 같은 테스트라고 취급하지 않습니다.

직접 실행하며 익혀보세요.

kubectl과 개인 실습용 Kubernetes 클러스터, POSIX 셸이 필요합니다. cert-manager와 VPA 실습은 각 레슨에 명시한 사전 설치가 필요합니다. 노드 변경 실습은 폐기 가능한 전용 worker에서만 수행하며 전용 namespace를 사용합니다.

폐기 가능한 개인 실습 worker만 사용합니다. export STUDY_NODE=실제노드이름 을 설정하고 그 노드에 kubectl label node "$STUDY_NODE" study.greatjin.net/lab-node=true 를 직접 지정해 전용 실습 노드임을 표시하세요. 코드가 이 표시와 실습 taint의 부재를 확인합니다. control plane·공유 운영 노드에는 적용하지 않습니다. 정리까지 같은 셸에서 실행하세요.

(
set -eu
kubectl config current-context
kubectl get nodes -L kubernetes.io/hostname
: "${STUDY_NODE:?Set STUDY_NODE to a Ready schedulable practice worker name}"
study_host=$(kubectl get node "$STUDY_NODE" -o jsonpath='{.metadata.labels.kubernetes\.io/hostname}')
test -n "$study_host"
test "$(kubectl get node "$STUDY_NODE" -o jsonpath='{.metadata.labels.study\.greatjin\.net/lab-node}')" = true
study_existing=$(kubectl get node "$STUDY_NODE" -o jsonpath='{.spec.taints[?(@.key=="study.greatjin.net/dedicated")].key}')
test -z "$study_existing"
kubectl create namespace study-node-taints --dry-run=client -o yaml | kubectl apply -f -
kubectl apply -n study-node-taints -f - <<YAML
apiVersion: v1
kind: Pod
metadata:
  name: existing
spec:
  nodeSelector:
    kubernetes.io/hostname: "$study_host"
  containers:
  - name: worker
    image: busybox:1.36
    command: ["sleep", "3600"]
YAML
kubectl wait -n study-node-taints --for=condition=Ready pod/existing --timeout=120s
kubectl taint node "$STUDY_NODE" study.greatjin.net/dedicated=practice:NoSchedule
kubectl apply -n study-node-taints -f - <<YAML
apiVersion: v1
kind: Pod
metadata:
  name: blocked
spec:
  nodeSelector:
    kubernetes.io/hostname: "$study_host"
  containers:
  - name: worker
    image: busybox:1.36
    command: ["sleep", "3600"]
YAML
kubectl wait -n study-node-taints --for=condition=PodScheduled=false pod/blocked --timeout=60s
kubectl get pods -n study-node-taints -o wide
kubectl describe pod blocked -n study-node-taints
kubectl patch pod blocked -n study-node-taints --type=merge -p '{"spec":{"tolerations":[{"key":"study.greatjin.net/dedicated","operator":"Equal","value":"practice","effect":"NoSchedule"}]}}'
kubectl wait -n study-node-taints --for=condition=Ready pod/blocked --timeout=120s
kubectl get pods -n study-node-taints -o wide
)

이렇게 확인하세요

NoSchedule 추가 후 existing은 Running을 유지하고 blocked는 Pending이어야 합니다. 올바른 toleration 추가 후 blocked도 Ready가 되며 둘 다 선택한 worker에 있어야 합니다. 실패했어도 아래 정리로 실습 taint를 제거하세요. 다른 key의 taint는 제거하지 않습니다.

실습 리소스 정리

결과 확인을 마친 뒤 실행하세요. 이 실습에서 만든 리소스와 보존할 데이터가 없는지 확인합니다.

: "${STUDY_NODE:?Use the same practice worker name as the lab}"
kubectl taint node "$STUDY_NODE" study.greatjin.net/dedicated:NoSchedule-
kubectl label node "$STUDY_NODE" study.greatjin.net/lab-node-
kubectl delete namespace study-node-taints

응용해보기

Pod에 toleration은 있는데 여전히 Pending입니다. 어떤 조건을 더 볼까요?

생각해본 뒤 풀이 보기

다른 허용되지 않은 taint, nodeSelector·required affinity, 자원 requests, PVC 바인딩, 노드의 unschedulable 여부를 Events와 함께 확인합니다. 하나의 배제 조건을 허용했다고 전체 스케줄링 조건이 충족되는 것은 아닙니다.

잠깐, 이해했는지 확인해볼까요?

전용 노드로 반드시 배치하면서 그 노드의 NoSchedule도 허용하려면?

  1. toleration만 설정
  2. required affinity 또는 nodeSelector와 대응 toleration을 함께 설정
  3. Pod 이름만 노드 이름과 같게 지정
  4. PreferNoSchedule만 추가
생각해본 뒤 풀이 보기

required affinity 또는 nodeSelector와 대응 toleration을 함께 설정

선택 조건이 배치 범위를 제한하고 toleration이 해당 taint를 허용합니다. 두 기능은 서로 대체하지 않습니다.

공식 문서 · Taint와 Toleration으로 전용 노드 구분하기