kserve model image add

2025-07-21 17:17:52 +09:00
parent 5f49acbb74
commit eb17388ee4
4 changed files with 6 additions and 0 deletions
@@ -29,6 +29,7 @@
 | `inferenceService.model.args[1]`    | 사용할 모델 이름      | `--model_name=phi-1.5`       |
 | `inferenceService.model.args[2]`    | 데이터 타입 설정      | `--dtype=float16`            |
 | `inferenceService.model.storageUri` | 모델 파일 저장 위치   | `pvc://model-volume/phi-1_5` |
+| `inferenceService.model.image`      | 모델 서빙 이미지      | `kserve/huggingfaceserver:v0.15.0-gpu` |

 ### 3) 리소스 설정

@@ -8,6 +8,7 @@ inferenceService:
      - --model_name=phi-1_5
      - --dtype=float16
    storageUri: "pvc://model-volume/phi-1_5"
+    image: kserve/huggingfaceserver:v0.15.0-gpu
  
  resources:
    limits:
@@ -17,5 +17,8 @@ spec:
        {{- toYaml . | nindent 8 }}
      {{- end }}
      storageUri: {{ .Values.inferenceService.model.storageUri }}
+      {{- if .Values.inferenceService.model.image }}
+      image: {{ .Values.inferenceService.model.image }}
+      {{- end }}
      resources:
        {{- toYaml .Values.inferenceService.resources | nindent 8 }}
@@ -22,6 +22,7 @@ inferenceService:
      - --model_name=phi-1.5
      - --dtype=float16
    storageUri: "pvc://model-volume/phi-1_5"
+    image: kserve/huggingfaceserver:v0.15.0-gpu
    
  # 리소스 설정
  resources: