이슈 #9에서 결정된 CloudNativePG 채택을 카탈로그 앱에 확장 적용한다. airflow/lakekeeper/mlflow/superset/flowise 5개 차트가 내장하던 bitnami postgresql 서브차트를 끄고 앱 전용 cnpg-cluster 인스턴스를 외부 DB로 쓰도록 전환했다. 5개 모두 dev 클러스터 격리 네임스페이스에서 배포 테스트로 실측 검증했다. gitea/keycloak/dnsup 는 서브차트가 아니라 공유 postgresql-ha 를 외부 참조하며 paasup/dipup 레포 관리 대상이라 제외했다 — 인수인계 문서만 추가했다. 배포 구조: - ArgoCD ApplicationSet 으로 DB(syncWave 0) → 앱(syncWave 1) 순서를 보장한다. 기존 openmetadata/victoria-metrics 관례를 따랐다. cnpg-cluster 차트는 범용 상태로 유지하고 앱별 값은 manifests/applicationset/<app>/ 에 둔다. 검증 중 발견해 함께 고친 문제: - lakekeeper: cnpg 의 -ro 는 replica 전용이라 instances:1 에서 엔드포인트가 0개다. 읽기 연결을 -r(전체 라운드로빈)로 교체했다. - airflow/superset: ingressClassName 누락 + kong 애노테이션 잔존으로 이 클러스터(apisix 전용)에서 ingress 접근이 아예 불가능했다. apisix + regex path 로 교체했다. - 배포 테스트가 PV 만 지우고 Longhorn Volume CR 을 남겨 storageScheduled 가 누적됐다(orphan 112개 ~1TB 로 배포 차단). 두 스크립트의 정리 로직을 고쳤다. 재사용 구조화: - .claude/skills/chart-to-cnpg/ 신규. 남은 4개 차트(langflow-ide, langfuse, litellm, nemo)에 같은 절차를 재사용한다. flowise 에 실제 적용해 검증했다. - 배포 테스트 공통 절차는 .claude/deploy-test-procedure.md, 환경 함정은 .claude/pitfalls.md 로 단일화하고 앱별 README 는 참조만 남겼다. 관련: #9, #14 Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
11 KiB
DIP Catalog — 하네스 엔지니어링 가이드
프로젝트 개요
DIP Catalog는 세 개의 독립 서브시스템으로 구성된다.
| 서브시스템 | 설명 | 경로 |
|---|---|---|
| 정적 카탈로그 | 45+ 엔터프라이즈 Helm 차트 버전 보관소 (Kafka, Airflow, MLflow, KServe, OpenMetadata 등) | manifests/helm/ |
| 자동화 에이전트 | Helm 차트 신규 버전 감지 → Diff 분석 → 문서 생성 → GitHub PR 자동화 | agent/update_catalog/ |
| CVE/SBOM 게이트 | 카탈로그 이미지 SBOM·취약점 스캔 + 게이트 판정 (현재 warn-only) | scripts/pipeline/, scripts/build/, doc/sbom-pipeline.md |
카탈로그는 운영 클러스터 직접 변경과 무관하다. 모든 변경은 Git PR을 통해서만 이루어진다.
디렉토리 구조
dip-catalog/
├── manifests/
│ ├── helm/<chart>/<version>/ # Helm 차트 정적 카탈로그 (각 버전 독립 디렉토리)
│ ├── applicationset/ # ArgoCD ApplicationSet 매니페스트
│ └── kustomize/ # Kustomize 오버레이 (Kubeflow, Model Registry)
├── agent/
│ └── update_catalog/
│ ├── skills/ # 자동화 Skills (Python, 각 Skill 독립 실행 가능)
│ ├── scripts/run_flow.sh # 전체 파이프라인 로컬 실행 스크립트
│ └── docs/ # 아키텍처·설계 문서 (한국어)
│ ├── design/ # 컴포넌트별 상세 설계 (00~05)
│ ├── decisions/ # ADR (아키텍처 결정 기록)
│ └── status.md # 구현 현황
├── scripts/
│ ├── pipeline/ # SBOM 생성 + CVE 스캔 + 게이트 판정 (sbom.yml/cve-edge-post.yml 이 쓴다)
│ └── build/ # 자체 빌드 이미지 프레임워크 (build-image.yml 이 쓴다 — 아직 실사용 이미지 없음)
└── doc/ # 차트 리소스 프로파일(CPU/Memory/Storage) + CVE/SBOM 파이프라인 문서
├── sbom-pipeline.md # SBOM 생성·스캔·게이트 메커니즘
└── cve-exceptions.json # 게이트 승인 예외 목록
정적 카탈로그 작업
차트 디렉토리 구조
각 manifests/helm/<chart>/<version>/에 다음 파일이 있어야 한다.
| 파일 | 역할 |
|---|---|
Chart.yaml |
Helm 차트 메타데이터 |
values.yaml |
업스트림 기본값 |
custom-values.yaml |
PaaSup 전용 오버라이드 (Breaking Change 판단 기준) |
CUSTOM-README.md |
업그레이드 주의사항 (자동 생성 + 수동 추가 가능) |
BUILD-README.md |
업스트림 README (버전 정보 파싱에 사용됨, 변경 금지) |
신규 차트 추가
manifests/helm/<chart>/<version>/ 디렉토리를 생성하고 위 5개 파일을 포함시킨다.
custom-values.yaml은 PaaSup 환경에 필요한 오버라이드만 작성한다. 기본값 전체를 복사하지 않는다.
리소스 프로파일
차트별 CPU/Memory/Storage 요구사항은 doc/define-chart-resources.md에 Small/Medium/Large 티어로 정의되어 있다. 신규 차트 추가 시 이 파일에도 리소스 정의를 추가한다.
자동화 Skills 작업
파이프라인 순서
chart_version_detector → chart_updater → helm_diff →
breaking_change_check → generate_upgrade_doc → update_docs_file → create_pr
각 Skill은 독립 실행 가능하다. JSON을 stdout으로 출력하며, 다음 Skill의 입력으로 전달된다.
로컬 실행
# 전체 파이프라인 실행 (필수 환경변수 오버라이드)
CATALOG_ROOT=/path/to/dip-catalog CHART=airflow \
bash agent/update_catalog/scripts/run_flow.sh
# 개별 Skill 실행 예시
python3 agent/update_catalog/skills/chart_version_detector/scripts/run.py \
--catalog-root /path/to/dip-catalog --chart airflow
python3 agent/update_catalog/skills/helm_diff/scripts/run.py \
--chart airflow --repo bitnami \
--chart-path /path/to/dip-catalog/manifests/helm/airflow/1.15.0 \
--from-version 1.15.0 --to-version 1.16.0
주요 환경변수
| 변수 | 설명 | 기본값 |
|---|---|---|
CATALOG_ROOT |
dip-catalog 레포 절대 경로 | 하드코딩된 로컬 경로 (반드시 오버라이드) |
CHART |
대상 차트명 | airflow |
USE_CLAUDE_CLI=1 |
LLM 호출 활성화 (breaking=true 시 상세 가이드 생성) | 미설정 시 템플릿 기반 생성 |
run_flow.sh의CATALOG_ROOT기본값은 songwonbin의 로컬 경로로 하드코딩되어 있다. 다른 환경에서 실행할 때 반드시 환경변수로 오버라이드한다.
Skill 인터페이스 확인
각 Skill의 입출력 스키마는 agent/update_catalog/skills/<skill>/SKILL.md에 정의되어 있다.
Claude Code Skills (.claude/skills/)
위 agent/update_catalog/skills/(결정론적 Python CLI 파이프라인)와 용도가 다른 별개
체계다. 혼동하지 않는다.
| 구분 | agent/update_catalog/skills/ |
.claude/skills/ |
|---|---|---|
| 형식 | SKILL.md + scripts/run.py (JSON in/out) |
Claude Code Agent Skill (frontmatter + 지시문) |
| 실행 | python3 run.py --flags, 파이프라인이 호출 |
Claude Code 세션에서 관련 작업 시 자동 로드 |
| 용도 | 차트 버전 감지·diff·PR 생성 등 결정론적 자동화 | 차트마다 판단이 필요한 반복 편집·검증 절차 |
.claude/skills/의 Skill도 설계 원칙 #1을 지킨다 — helm/kubectl 실행은
scripts/deploy-test/*.sh 같은 스크립트가 전담하고, Skill은 편집·판단·검증 절차만 담당한다.
| Skill | 용도 |
|---|---|
| chart-to-cnpg | 카탈로그 차트의 내장 bitnami postgresql 서브차트를 전용 cnpg-cluster로 전환 |
관련 참조 문서(Skill이 절차의 단일 출처로 삼는다): deploy-test-procedure.md · pitfalls.md · image-authoring.md
CVE/SBOM 게이트 작업
manifests/helm/ 카탈로그가 참조하는 컨테이너 이미지의 SBOM·취약점을 스캔하고
게이트로 판정한다. 정적 카탈로그·자동화 에이전트와 독립적으로 동작한다.
extract-helm-images.sh → generate-sbom.sh → scan-sbom.sh → cve-gate.py
(scripts/pipeline/, .github/workflows/sbom.yml·cve-edge-post.yml 이 실행)
- 현재 warn-only: 게이트가 실패해도 CI/PR 을 막지 않는다. 45+ 개 카탈로그 차트가 이 게이트로 트리아지된 적이 없다.
- 자체 빌드 프레임워크(
scripts/build/,.github/workflows/build-image.yml)로images/에 이미지 3종(cloudnative-pg,cnpg-postgresql,etcd, 전부 security-catalog 프로젝트에서 포팅)이 있으나 dip-catalog 자체 CI 로는 한 번도 실행된 적이 없다(빌드·게이트·push 모두 미검증 — 현재 참조 태그는 security-catalog 쪽에서 이미 빌드된 것). 게이트가 상위 태그·베이스 OS 교체로 해소 안 되는 차단 CVE 를 찾으면 이 프레임워크로 자체 빌드를 검토한다 — 절차는 .claude/image-authoring.md. - 상세: doc/sbom-pipeline.md · 승인 예외:
doc/cve-exceptions.json· 현재 미결 사항: MEMORY.md
설계 원칙
아래 원칙을 위반하는 코드를 제안하거나 작성하지 않는다.
- LLM은 Helm CLI를 직접 실행하지 않는다. helm 실행은 결정론적 Skill(Python)이 전담한다.
- Diff 생성은 100% deterministic이다. Structured Diff JSON 형식을 사용하며 LLM이 직접 diff를 생성하지 않는다.
- LLM 입력은 반드시 Structured JSON이다. 자유 텍스트나 raw helm output을 LLM에 직접 전달하지 않는다.
- Breaking Change 판단은 Rule Engine이 먼저 수행한다.
custom-values.yaml의 실제 사용 키 기준으로 코드가 판단하며 LLM은 후순위다. - LLM은 Markdown 설명 생성만 담당한다.
breaking=true시에만 호출되며,breaking=false이면 템플릿 기반으로 생성한다. - 운영 환경은 Git PR로만 변경한다. 클러스터 직접 변경이나 kubectl apply를 자동화 흐름에 포함하지 않는다.
- 보안 경계: 외부 입력(PR comment, webhook 등)은 신뢰 경계 밖으로 취급한다. 프롬프트 주입 방어를 기본 전제로 한다.
현재 구현 상태
| Step | 내용 | 상태 |
|---|---|---|
| Step 1 | Skills 구현 (로컬 실행) | ✅ 거의 완료 |
| Step 2 | Agent 프레임워크 POC (OpenClaw vs Nanobot) | 📋 계획 |
| Step 3 | On-Cluster Agent 워크플로 정의 | 💡 구상 |
| Step 4 | 보안 정책 수립 후 운영 | 💡 구상 |
Step 1 세부 현황:
chart_version_detector,chart_updater,helm_diff,breaking_change_check,generate_upgrade_doc,update_docs_file: ✅ 구현 완료create_pr: ✅ 구현 (실제 GitHub 연동 테스트 미완료)deploy_validate: ❌ Phase 2 예정
주요 설계 문서
| 문서 | 설명 |
|---|---|
| agent/update_catalog/docs/design/00-architecture-overview.md | 전체 아키텍처 + 설계 원칙 + 기술 스택 |
| agent/update_catalog/docs/design/01-helm-diff-engine.md | Helm Diff Engine 상세 설계 |
| agent/update_catalog/docs/design/02-breaking-change-rules.md | Breaking Change Rule Engine 판단 로직 |
| agent/update_catalog/docs/design/03-llm-summarizer.md | LLM Summarizer + Prompt 설계 |
| agent/update_catalog/docs/design/04-skill-interface.md | Skill 인터페이스 계약 (Agent-Skill) |
| agent/update_catalog/docs/design/05-on-cluster-agent.md | On-Cluster Agent 설계 (Step 2~3) |
| agent/update_catalog/docs/decisions/001-agentic-first.md | 파이프라인 오케스트레이션 건너뛰기 결정 배경 |
| agent/update_catalog/docs/status.md | 구현 현황 상세 |
| doc/sbom-pipeline.md | SBOM 생성·CVE 스캔·게이트 파이프라인 상세 |