dip/service-catalog
1
0
Fork 0
Code Issues Pull Requests Actions 1 Packages Projects Releases Wiki Activity
Files
f1d10a1d09d6762d80985b97f5186a5dbb0fa708
service-catalog/scripts/deploy-test/deploy-test-cnpg-cluster.sh
T
wbsong111 3ee1c1ee23 카탈로그 앱 내장 bitnami postgresql → cnpg-cluster 전환 (1차 5개 차트) 
이슈 #9에서 결정된 CloudNativePG 채택을 카탈로그 앱에 확장 적용한다.
airflow/lakekeeper/mlflow/superset/flowise 5개 차트가 내장하던 bitnami
postgresql 서브차트를 끄고 앱 전용 cnpg-cluster 인스턴스를 외부 DB로 쓰도록
전환했다. 5개 모두 dev 클러스터 격리 네임스페이스에서 배포 테스트로 실측 검증했다.

gitea/keycloak/dnsup 는 서브차트가 아니라 공유 postgresql-ha 를 외부 참조하며
paasup/dipup 레포 관리 대상이라 제외했다 — 인수인계 문서만 추가했다.

배포 구조:
- ArgoCD ApplicationSet 으로 DB(syncWave 0) → 앱(syncWave 1) 순서를 보장한다.
  기존 openmetadata/victoria-metrics 관례를 따랐다. cnpg-cluster 차트는 범용
  상태로 유지하고 앱별 값은 manifests/applicationset/<app>/ 에 둔다.

검증 중 발견해 함께 고친 문제:
- lakekeeper: cnpg 의 -ro 는 replica 전용이라 instances:1 에서 엔드포인트가
  0개다. 읽기 연결을 -r(전체 라운드로빈)로 교체했다.
- airflow/superset: ingressClassName 누락 + kong 애노테이션 잔존으로 이
  클러스터(apisix 전용)에서 ingress 접근이 아예 불가능했다. apisix + regex
  path 로 교체했다.
- 배포 테스트가 PV 만 지우고 Longhorn Volume CR 을 남겨 storageScheduled 가
  누적됐다(orphan 112개 ~1TB 로 배포 차단). 두 스크립트의 정리 로직을 고쳤다.

재사용 구조화:
- .claude/skills/chart-to-cnpg/ 신규. 남은 4개 차트(langflow-ide, langfuse,
  litellm, nemo)에 같은 절차를 재사용한다. flowise 에 실제 적용해 검증했다.
- 배포 테스트 공통 절차는 .claude/deploy-test-procedure.md, 환경 함정은
  .claude/pitfalls.md 로 단일화하고 앱별 README 는 참조만 남겼다.

관련: #9, #14

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
2026-08-05 15:17:46 +09:00

204 lines
10 KiB
Bash
Executable File
Raw Blame History

#!/usr/bin/env bash
# =============================================================================
# deploy-test-cnpg-cluster.sh
# cnpg-postgresql 자체 빌드 이미지가 실제로 CNPG operator 위에서 동작하는지
# Kubernetes 배포 수준에서 확인한다. build-image.yml 이 카탈로그 PR 을 연 뒤,
# 병합 전에 사람이 로컬 kubeconfig 로 이 스크립트를 돌려 확인한다.
#
# CVE 게이트(scripts/pipeline/cve-gate.py)는 "취약점이 없는가" 만 본다. 이 스크립트는
# "0건이어도 실제로 뜨는가" 를 본다 — .claude/deploy-test-procedure.md 의 원칙
# ("Zero CVE 로는 부족하다. 동작하지 않는 이미지는 카탈로그에 올릴 수 없다").
#
# Operator(cloudnative-pg)는 상시 컴포넌트로 취급한다 — 없으면 1회 설치하고
# 있으면 그대로 재사용한다. 매번 새로 설치하지 않는 이유:
# cloudnative-pg 차트의 ValidatingWebhookConfiguration/MutatingWebhookConfiguration
# 이름이 릴리스와 무관하게 클러스터 전역으로 하드코딩돼 있어(cnpg-*-webhook-configuration,
# manifests/helm/cloudnative-pg/0.29.0/templates/validatingwebhookconfiguration.yaml)
# 같은 클러스터에 operator 를 두 번 설치할 수 없다.
#
# Postgres 앱(cnpg-cluster)은 매 실행 고정 이름으로 지우고 새로 만든다 — 반복 실행
# 가능해야 "배포 검증"이 의미가 있다. 정리는 성공/실패 무관 항상 수행한다(trap).
#
# 배포는 각 차트의 **기본값(values.yaml)** 만 쓴다. custom-values.yaml 은 쓰지 않는다 —
# 운영 설정(백업·확장·사이징)까지 검증 대상에 섞이면 "이 이미지가 도는가" 라는 질문과
# 무관한 변수가 늘어난다. 유일한 override 는 검증 대상인 이미지 자체뿐이다.
#
# 사용:
# IMAGE_NAME=docker.io/wbsong111/cnpg-postgresql:<tag> bash scripts/deploy-test/deploy-test-cnpg-cluster.sh <OUT_DIR>
#
# 환경변수:
# IMAGE_NAME (필수) 검증할 postgresql 이미지 전체 경로:태그
# OPERATOR_CHART_DIR 기본 manifests/helm/cloudnative-pg/0.29.0
# APP_CHART_DIR 기본 manifests/helm/cnpg-cluster/1.0.0
# OPERATOR_NAMESPACE 기본 cnpg-system (상시 — 이 스크립트가 지우지 않는다)
# OPERATOR_RELEASE 기본 cnpg
# TEST_NAMESPACE 기본 pg-test-build (매 실행 재생성)
# APP_RELEASE 기본 pg-build
# WAIT_TIMEOUT 기본 600 (초) — Cluster healthy 대기 한도
#
# 산출물 (OUT_DIR):
# deploy-test.log 전체 실행 로그
#
# 종료 코드: 0 = 기능 확인(psql SELECT 1) 통과, 그 외 = 실패.
# 정리는 종료 코드와 무관하게 항상 수행된다.
# =============================================================================
set -uo pipefail
SCRIPT_DIR="$(cd "$(dirname "${BASH_SOURCE[0]}")" && pwd)"
REPO_ROOT="$(cd "$SCRIPT_DIR/../.." && pwd)"
OUT_DIR="${1:?사용법: deploy-test-cnpg-cluster.sh <OUT_DIR>}"
mkdir -p "$OUT_DIR"
LOG="$OUT_DIR/deploy-test.log"
: > "$LOG"
IMAGE_NAME="${IMAGE_NAME:?IMAGE_NAME 환경변수가 필요하다 (검증할 postgresql 이미지 전체 경로:태그)}"
OPERATOR_CHART_DIR="${OPERATOR_CHART_DIR:-$REPO_ROOT/manifests/helm/cloudnative-pg/0.29.0}"
APP_CHART_DIR="${APP_CHART_DIR:-$REPO_ROOT/manifests/helm/cnpg-cluster/1.0.0}"
OPERATOR_NAMESPACE="${OPERATOR_NAMESPACE:-cnpg-system}"
OPERATOR_RELEASE="${OPERATOR_RELEASE:-cnpg}"
TEST_NAMESPACE="${TEST_NAMESPACE:-pg-test-build}"
APP_RELEASE="${APP_RELEASE:-pg-build}"
WAIT_TIMEOUT="${WAIT_TIMEOUT:-600}"
log() { echo "$(date -u +%H:%M:%S) $*" | tee -a "$LOG"; }
log "== 사전 확인 =="
for t in kubectl helm python3; do
command -v "$t" >/dev/null || { log "::error:: $t 없음"; exit 2; }
done
[ -d "$OPERATOR_CHART_DIR" ] || { log "::error:: operator 차트 없음: $OPERATOR_CHART_DIR"; exit 2; }
[ -d "$APP_CHART_DIR" ] || { log "::error:: app 차트 없음: $APP_CHART_DIR"; exit 2; }
if ! kubectl get ns >/dev/null 2>>"$LOG"; then
log "::error:: 클러스터 연결 실패 — kubeconfig/네트워크 확인"
log "::error:: (dev 클러스터는 간헐적 타임아웃이 있을 수 있다 — 재시도해볼 것)"
exit 2
fi
log " OK (kubectl context: $(kubectl config current-context 2>/dev/null))"
# --- operator: 상시 컴포넌트. 없으면 1회 설치, 있으면 재사용 --------------------
ensure_operator() {
if helm status "$OPERATOR_RELEASE" -n "$OPERATOR_NAMESPACE" >/dev/null 2>>"$LOG"; then
log "== operator: 기존 릴리스 재사용 ($OPERATOR_RELEASE/$OPERATOR_NAMESPACE) =="
return 0
fi
# 우리가 모르는 operator 가 이미 떠 있으면(웹훅 이름이 클러스터 전역 고정이라) 충돌한다.
# 자동으로 지우지 않고 사람이 정리하게 한다.
if kubectl get validatingwebhookconfiguration cnpg-validating-webhook-configuration >/dev/null 2>&1; then
owner_ns="$(kubectl get validatingwebhookconfiguration cnpg-validating-webhook-configuration \
-o jsonpath='{.metadata.annotations.meta\.helm\.sh/release-namespace}' 2>/dev/null)"
owner_rel="$(kubectl get validatingwebhookconfiguration cnpg-validating-webhook-configuration \
-o jsonpath='{.metadata.annotations.meta\.helm\.sh/release-name}' 2>/dev/null)"
if [ "$owner_ns" != "$OPERATOR_NAMESPACE" ] || [ "$owner_rel" != "$OPERATOR_RELEASE" ]; then
log "::error:: 다른 CNPG operator 가 이미 클러스터에 있다 (release=$owner_rel ns=$owner_ns)."
log "::error:: cloudnative-pg 웹훅 설정은 클러스터 전역 고정 이름이라 두 번째 설치가 불가능하다."
log "::error:: 그 operator 를 먼저 정리하거나 OPERATOR_NAMESPACE/OPERATOR_RELEASE 를 그 값에 맞춰라."
exit 3
fi
fi
log "== operator: 신규 설치 ($OPERATOR_RELEASE/$OPERATOR_NAMESPACE, 차트 기본값) =="
helm install "$OPERATOR_RELEASE" "$OPERATOR_CHART_DIR" \
-n "$OPERATOR_NAMESPACE" --create-namespace --wait --timeout "${WAIT_TIMEOUT}s" \
>>"$LOG" 2>&1 || { log "::error:: operator 설치 실패 — $LOG 확인"; exit 1; }
log " OK"
}
# --- 테스트 네임스페이스 정리 (선-정리·후-정리 공용) --------------------------
cleanup_test_ns() {
kubectl get ns "$TEST_NAMESPACE" >/dev/null 2>&1 || return 0
log "== 정리: $TEST_NAMESPACE =="
if helm status "$APP_RELEASE" -n "$TEST_NAMESPACE" >/dev/null 2>&1; then
helm uninstall "$APP_RELEASE" -n "$TEST_NAMESPACE" >>"$LOG" 2>&1
fi
kubectl -n "$TEST_NAMESPACE" delete pvc --all --wait --timeout=120s >>"$LOG" 2>&1
# storageClass longhorn 은 reclaimPolicy Retain 이라 PVC 삭제만으로는 볼륨이 안
# 지워진다(.claude/pitfalls.md 의 기존 함정). 이 네임스페이스가 남긴 PV 만 골라 지운다.
local pv
for pv in $(kubectl get pv -o json 2>/dev/null | python3 -c "
import json,sys
d=json.load(sys.stdin)
for p in d.get('items', []):
cr = p['spec'].get('claimRef') or {}
if cr.get('namespace') == '$TEST_NAMESPACE':
print(p['metadata']['name'])
" 2>/dev/null); do
kubectl delete pv "$pv" --ignore-not-found >>"$LOG" 2>&1 \
|| log "::warning:: PV $pv 삭제 실패 — 수동 확인 필요"
# k8s PV 오브젝트를 지워도 Longhorn 자체의 Volume 커스텀리소스는 남는다(실측 —
# storageScheduled가 계속 누적돼 결국 "insufficient storage"로 다른 배포가 막힘).
# PV와 이름이 같은 volumes.longhorn.io를 명시적으로 지워야 실제 디스크가 반환된다.
kubectl -n longhorn-system delete volumes.longhorn.io "$pv" --ignore-not-found >>"$LOG" 2>&1
done
kubectl delete ns "$TEST_NAMESPACE" --wait --timeout=120s >>"$LOG" 2>&1
log " 완료"
}
RESULT=1
trap 'cleanup_test_ns' EXIT
ensure_operator
cleanup_test_ns # 직전 실행이 비정상 종료했을 경우를 대비한 선-정리
log "== app: 설치 ($APP_RELEASE/$TEST_NAMESPACE, 기본값 + imageName override) =="
kubectl create ns "$TEST_NAMESPACE" >>"$LOG" 2>&1
if ! helm install "$APP_RELEASE" "$APP_CHART_DIR" -n "$TEST_NAMESPACE" \
--set postgresql.imageName="$IMAGE_NAME" --wait --timeout "${WAIT_TIMEOUT}s" \
>>"$LOG" 2>&1; then
log "::error:: app 차트 설치 실패 — $LOG 확인"
exit 1
fi
log "== Cluster healthy 대기 (최대 ${WAIT_TIMEOUT}s) =="
instances="$(kubectl -n "$TEST_NAMESPACE" get clusters.postgresql.cnpg.io "$APP_RELEASE" \
-o jsonpath='{.spec.instances}' 2>/dev/null)"
deadline=$((SECONDS + WAIT_TIMEOUT))
phase=""
ready=0
while [ "$SECONDS" -lt "$deadline" ]; do
phase="$(kubectl -n "$TEST_NAMESPACE" get clusters.postgresql.cnpg.io "$APP_RELEASE" \
-o jsonpath='{.status.phase}' 2>/dev/null)"
ready="$(kubectl -n "$TEST_NAMESPACE" get clusters.postgresql.cnpg.io "$APP_RELEASE" \
-o jsonpath='{.status.readyInstances}' 2>/dev/null)"
log " phase=$phase ready=${ready:-0}/$instances"
[ "$phase" = "Cluster in healthy state" ] && [ "${ready:-0}" = "$instances" ] && break
sleep 10
done
if [ "$phase" != "Cluster in healthy state" ] || [ "${ready:-0}" != "$instances" ]; then
log "::error:: 타임아웃 — Cluster 가 healthy 상태에 도달하지 못함"
kubectl -n "$TEST_NAMESPACE" get pods -l "cnpg.io/cluster=$APP_RELEASE" >>"$LOG" 2>&1
exit 1
fi
log "== 기능 확인: psql SELECT 1 (appdb) =="
# 항상 clusters.postgresql.cnpg.io FQN 을 쓴다 — bare `cluster` 는 Rancher/CAPI 의
# 동명 CRD 와 충돌한다(.claude/pitfalls.md).
primary_pod="$(kubectl -n "$TEST_NAMESPACE" get pods \
-l "cnpg.io/cluster=$APP_RELEASE,cnpg.io/instanceRole=primary" \
-o jsonpath='{.items[0].metadata.name}' 2>/dev/null)"
if [ -z "$primary_pod" ]; then
log "::error:: primary pod 를 찾지 못함"
exit 1
fi
log " primary=$primary_pod"
version="$(kubectl -n "$TEST_NAMESPACE" exec "$primary_pod" -c postgres -- \
psql -U postgres -d appdb -Atc "SELECT version();" 2>>"$LOG")"
log " version: $version"
answer="$(kubectl -n "$TEST_NAMESPACE" exec "$primary_pod" -c postgres -- \
psql -U postgres -d appdb -Atc "SELECT 1;" 2>>"$LOG")"
if [ "$answer" = "1" ]; then
log "== 결과: PASS =="
RESULT=0
else
log "::error:: psql 응답 이상 (got: '$answer')"
RESULT=1
fi
exit "$RESULT"
Reference in New Issue View Git Blame Copy Permalink