#!/usr/bin/env bash # ============================================================================= # deploy-test-cnpg-cluster.sh # cnpg-postgresql 자체 빌드 이미지가 실제로 CNPG operator 위에서 동작하는지 # Kubernetes 배포 수준에서 확인한다. build-image.yml 이 카탈로그 PR 을 연 뒤, # 병합 전에 사람이 로컬 kubeconfig 로 이 스크립트를 돌려 확인한다. # # CVE 게이트(scripts/pipeline/cve-gate.py)는 "취약점이 없는가" 만 본다. 이 스크립트는 # "0건이어도 실제로 뜨는가" 를 본다 — .claude/deploy-test-procedure.md 의 원칙 # ("Zero CVE 로는 부족하다. 동작하지 않는 이미지는 카탈로그에 올릴 수 없다"). # # Operator(cloudnative-pg)는 상시 컴포넌트로 취급한다 — 없으면 1회 설치하고 # 있으면 그대로 재사용한다. 매번 새로 설치하지 않는 이유: # cloudnative-pg 차트의 ValidatingWebhookConfiguration/MutatingWebhookConfiguration # 이름이 릴리스와 무관하게 클러스터 전역으로 하드코딩돼 있어(cnpg-*-webhook-configuration, # manifests/helm/cloudnative-pg/0.29.0/templates/validatingwebhookconfiguration.yaml) # 같은 클러스터에 operator 를 두 번 설치할 수 없다. # # Postgres 앱(cnpg-cluster)은 매 실행 고정 이름으로 지우고 새로 만든다 — 반복 실행 # 가능해야 "배포 검증"이 의미가 있다. 정리는 성공/실패 무관 항상 수행한다(trap). # # 배포는 각 차트의 **기본값(values.yaml)** 만 쓴다. custom-values.yaml 은 쓰지 않는다 — # 운영 설정(백업·확장·사이징)까지 검증 대상에 섞이면 "이 이미지가 도는가" 라는 질문과 # 무관한 변수가 늘어난다. 유일한 override 는 검증 대상인 이미지 자체뿐이다. # # 사용: # IMAGE_NAME=docker.io/paasup/cnpg-postgresql: bash scripts/deploy-test/deploy-test-cnpg-cluster.sh # # 환경변수: # IMAGE_NAME (필수) 검증할 postgresql 이미지 전체 경로:태그 # OPERATOR_CHART_DIR 기본 manifests/helm/cloudnative-pg/0.29.0 # APP_CHART_DIR 기본 manifests/helm/cnpg-cluster/1.0.0 # OPERATOR_NAMESPACE 기본 cnpg-system (상시 — 이 스크립트가 지우지 않는다) # OPERATOR_RELEASE 기본 cnpg # TEST_NAMESPACE 기본 pg-test-build (매 실행 재생성) # APP_RELEASE 기본 pg-build # WAIT_TIMEOUT 기본 600 (초) — Cluster healthy 대기 한도 # # 산출물 (OUT_DIR): # deploy-test.log 전체 실행 로그 # # 종료 코드: 0 = 기능 확인(psql SELECT 1) 통과, 그 외 = 실패. # 정리는 종료 코드와 무관하게 항상 수행된다. # ============================================================================= set -uo pipefail SCRIPT_DIR="$(cd "$(dirname "${BASH_SOURCE[0]}")" && pwd)" REPO_ROOT="$(cd "$SCRIPT_DIR/../.." && pwd)" OUT_DIR="${1:?사용법: deploy-test-cnpg-cluster.sh }" mkdir -p "$OUT_DIR" LOG="$OUT_DIR/deploy-test.log" : > "$LOG" IMAGE_NAME="${IMAGE_NAME:?IMAGE_NAME 환경변수가 필요하다 (검증할 postgresql 이미지 전체 경로:태그)}" OPERATOR_CHART_DIR="${OPERATOR_CHART_DIR:-$REPO_ROOT/manifests/helm/cloudnative-pg/0.29.0}" APP_CHART_DIR="${APP_CHART_DIR:-$REPO_ROOT/manifests/helm/cnpg-cluster/1.0.0}" OPERATOR_NAMESPACE="${OPERATOR_NAMESPACE:-cnpg-system}" OPERATOR_RELEASE="${OPERATOR_RELEASE:-cnpg}" TEST_NAMESPACE="${TEST_NAMESPACE:-pg-test-build}" APP_RELEASE="${APP_RELEASE:-pg-build}" WAIT_TIMEOUT="${WAIT_TIMEOUT:-600}" log() { echo "$(date -u +%H:%M:%S) $*" | tee -a "$LOG"; } log "== 사전 확인 ==" for t in kubectl helm python3; do command -v "$t" >/dev/null || { log "::error:: $t 없음"; exit 2; } done [ -d "$OPERATOR_CHART_DIR" ] || { log "::error:: operator 차트 없음: $OPERATOR_CHART_DIR"; exit 2; } [ -d "$APP_CHART_DIR" ] || { log "::error:: app 차트 없음: $APP_CHART_DIR"; exit 2; } if ! kubectl get ns >/dev/null 2>>"$LOG"; then log "::error:: 클러스터 연결 실패 — kubeconfig/네트워크 확인" log "::error:: (dev 클러스터는 간헐적 타임아웃이 있을 수 있다 — 재시도해볼 것)" exit 2 fi log " OK (kubectl context: $(kubectl config current-context 2>/dev/null))" # --- operator: 상시 컴포넌트. 없으면 1회 설치, 있으면 재사용 -------------------- ensure_operator() { if helm status "$OPERATOR_RELEASE" -n "$OPERATOR_NAMESPACE" >/dev/null 2>>"$LOG"; then log "== operator: 기존 릴리스 재사용 ($OPERATOR_RELEASE/$OPERATOR_NAMESPACE) ==" return 0 fi # 우리가 모르는 operator 가 이미 떠 있으면(웹훅 이름이 클러스터 전역 고정이라) 충돌한다. # 자동으로 지우지 않고 사람이 정리하게 한다. if kubectl get validatingwebhookconfiguration cnpg-validating-webhook-configuration >/dev/null 2>&1; then owner_ns="$(kubectl get validatingwebhookconfiguration cnpg-validating-webhook-configuration \ -o jsonpath='{.metadata.annotations.meta\.helm\.sh/release-namespace}' 2>/dev/null)" owner_rel="$(kubectl get validatingwebhookconfiguration cnpg-validating-webhook-configuration \ -o jsonpath='{.metadata.annotations.meta\.helm\.sh/release-name}' 2>/dev/null)" if [ "$owner_ns" != "$OPERATOR_NAMESPACE" ] || [ "$owner_rel" != "$OPERATOR_RELEASE" ]; then log "::error:: 다른 CNPG operator 가 이미 클러스터에 있다 (release=$owner_rel ns=$owner_ns)." log "::error:: cloudnative-pg 웹훅 설정은 클러스터 전역 고정 이름이라 두 번째 설치가 불가능하다." log "::error:: 그 operator 를 먼저 정리하거나 OPERATOR_NAMESPACE/OPERATOR_RELEASE 를 그 값에 맞춰라." exit 3 fi fi log "== operator: 신규 설치 ($OPERATOR_RELEASE/$OPERATOR_NAMESPACE, 차트 기본값) ==" helm install "$OPERATOR_RELEASE" "$OPERATOR_CHART_DIR" \ -n "$OPERATOR_NAMESPACE" --create-namespace --wait --timeout "${WAIT_TIMEOUT}s" \ >>"$LOG" 2>&1 || { log "::error:: operator 설치 실패 — $LOG 확인"; exit 1; } log " OK" } # --- 테스트 네임스페이스 정리 (선-정리·후-정리 공용) -------------------------- cleanup_test_ns() { kubectl get ns "$TEST_NAMESPACE" >/dev/null 2>&1 || return 0 log "== 정리: $TEST_NAMESPACE ==" if helm status "$APP_RELEASE" -n "$TEST_NAMESPACE" >/dev/null 2>&1; then helm uninstall "$APP_RELEASE" -n "$TEST_NAMESPACE" >>"$LOG" 2>&1 fi kubectl -n "$TEST_NAMESPACE" delete pvc --all --wait --timeout=120s >>"$LOG" 2>&1 # storageClass longhorn 은 reclaimPolicy Retain 이라 PVC 삭제만으로는 볼륨이 안 # 지워진다(.claude/pitfalls.md 의 기존 함정). 이 네임스페이스가 남긴 PV 만 골라 지운다. local pv for pv in $(kubectl get pv -o json 2>/dev/null | python3 -c " import json,sys d=json.load(sys.stdin) for p in d.get('items', []): cr = p['spec'].get('claimRef') or {} if cr.get('namespace') == '$TEST_NAMESPACE': print(p['metadata']['name']) " 2>/dev/null); do kubectl delete pv "$pv" --ignore-not-found >>"$LOG" 2>&1 \ || log "::warning:: PV $pv 삭제 실패 — 수동 확인 필요" # k8s PV 오브젝트를 지워도 Longhorn 자체의 Volume 커스텀리소스는 남는다(실측 — # storageScheduled가 계속 누적돼 결국 "insufficient storage"로 다른 배포가 막힘). # PV와 이름이 같은 volumes.longhorn.io를 명시적으로 지워야 실제 디스크가 반환된다. kubectl -n longhorn-system delete volumes.longhorn.io "$pv" --ignore-not-found >>"$LOG" 2>&1 done kubectl delete ns "$TEST_NAMESPACE" --wait --timeout=120s >>"$LOG" 2>&1 log " 완료" } RESULT=1 trap 'cleanup_test_ns' EXIT ensure_operator cleanup_test_ns # 직전 실행이 비정상 종료했을 경우를 대비한 선-정리 log "== app: 설치 ($APP_RELEASE/$TEST_NAMESPACE, 기본값 + imageName override) ==" kubectl create ns "$TEST_NAMESPACE" >>"$LOG" 2>&1 if ! helm install "$APP_RELEASE" "$APP_CHART_DIR" -n "$TEST_NAMESPACE" \ --set postgresql.imageName="$IMAGE_NAME" --wait --timeout "${WAIT_TIMEOUT}s" \ >>"$LOG" 2>&1; then log "::error:: app 차트 설치 실패 — $LOG 확인" exit 1 fi log "== Cluster healthy 대기 (최대 ${WAIT_TIMEOUT}s) ==" instances="$(kubectl -n "$TEST_NAMESPACE" get clusters.postgresql.cnpg.io "$APP_RELEASE" \ -o jsonpath='{.spec.instances}' 2>/dev/null)" deadline=$((SECONDS + WAIT_TIMEOUT)) phase="" ready=0 while [ "$SECONDS" -lt "$deadline" ]; do phase="$(kubectl -n "$TEST_NAMESPACE" get clusters.postgresql.cnpg.io "$APP_RELEASE" \ -o jsonpath='{.status.phase}' 2>/dev/null)" ready="$(kubectl -n "$TEST_NAMESPACE" get clusters.postgresql.cnpg.io "$APP_RELEASE" \ -o jsonpath='{.status.readyInstances}' 2>/dev/null)" log " phase=$phase ready=${ready:-0}/$instances" [ "$phase" = "Cluster in healthy state" ] && [ "${ready:-0}" = "$instances" ] && break sleep 10 done if [ "$phase" != "Cluster in healthy state" ] || [ "${ready:-0}" != "$instances" ]; then log "::error:: 타임아웃 — Cluster 가 healthy 상태에 도달하지 못함" kubectl -n "$TEST_NAMESPACE" get pods -l "cnpg.io/cluster=$APP_RELEASE" >>"$LOG" 2>&1 exit 1 fi log "== 기능 확인: psql SELECT 1 (appdb) ==" # 항상 clusters.postgresql.cnpg.io FQN 을 쓴다 — bare `cluster` 는 Rancher/CAPI 의 # 동명 CRD 와 충돌한다(.claude/pitfalls.md). primary_pod="$(kubectl -n "$TEST_NAMESPACE" get pods \ -l "cnpg.io/cluster=$APP_RELEASE,cnpg.io/instanceRole=primary" \ -o jsonpath='{.items[0].metadata.name}' 2>/dev/null)" if [ -z "$primary_pod" ]; then log "::error:: primary pod 를 찾지 못함" exit 1 fi log " primary=$primary_pod" version="$(kubectl -n "$TEST_NAMESPACE" exec "$primary_pod" -c postgres -- \ psql -U postgres -d appdb -Atc "SELECT version();" 2>>"$LOG")" log " version: $version" answer="$(kubectl -n "$TEST_NAMESPACE" exec "$primary_pod" -c postgres -- \ psql -U postgres -d appdb -Atc "SELECT 1;" 2>>"$LOG")" if [ "$answer" = "1" ]; then log "== 결과: PASS ==" RESULT=0 else log "::error:: psql 응답 이상 (got: '$answer')" RESULT=1 fi exit "$RESULT"