Merge branch 'main' of https://github.com/paasup/dip-catalog
This commit is contained in:
@@ -21,4 +21,6 @@ spec:
|
|||||||
image: {{ .Values.inferenceService.model.image }}
|
image: {{ .Values.inferenceService.model.image }}
|
||||||
{{- end }}
|
{{- end }}
|
||||||
resources:
|
resources:
|
||||||
{{- toYaml .Values.inferenceService.resources | nindent 8 }}
|
{{- toYaml .Values.inferenceService.resources | nindent 8 }}
|
||||||
|
minReplicas: {{ .Values.inferenceService.minReplicas }}
|
||||||
|
maxReplicas: {{ .Values.inferenceService.maxReplicas }}
|
||||||
@@ -23,7 +23,10 @@ inferenceService:
|
|||||||
- --dtype=float16
|
- --dtype=float16
|
||||||
storageUri: "pvc://model-volume/phi-1_5"
|
storageUri: "pvc://model-volume/phi-1_5"
|
||||||
image: kserve/huggingfaceserver:v0.15.0-gpu
|
image: kserve/huggingfaceserver:v0.15.0-gpu
|
||||||
|
|
||||||
|
minReplicas: 0
|
||||||
|
maxReplicas: 3
|
||||||
|
|
||||||
# 리소스 설정
|
# 리소스 설정
|
||||||
resources:
|
resources:
|
||||||
limits:
|
limits:
|
||||||
|
|||||||
Reference in New Issue
Block a user