> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/environment-variables.md).

# Inference Server 환경 변수

Inference 서버의 동작은 일련의 환경 변수로 제어됩니다. 각 변수는 다음에 정의되어 있습니다 [`inference/core/env.py`](https://github.com/roboflow/inference/blob/main/inference/core/env.py); 아래 변수들은 더 설명이 필요한 변수입니다.

다음으로 컨테이너에 전달하세요 `-e` (참고: [Docker 구성 옵션](/deployment/ko/self-hosted/inference-server/configuration/docker-configuration.md) 가장 자주 변경되는 설정):

```bash
docker run -it --rm -e ENV_VAR_NAME=env_var_value -p 9001:9001 roboflow/roboflow-inference-server-cpu:latest
```

{% hint style="info" %}
이 변수들은 다음을 구성합니다 **Inference 서버**. Roboflow CLI와 Python SDK는 다른, 더 작은 범위의 변수(`ROBOFLOW_API_KEY`, `ROBOFLOW_CONFIG_DIR`, 기타): 참고: [환경 변수](https://docs.roboflow.com/reference/environment-variables) 는 Reference 섹션을 참조하세요.
{% endhint %}

## 실행 및 모델

| 변수                                | 설명                                                                               | 기본값                                                                                  |
| --------------------------------- | -------------------------------------------------------------------------------- | ------------------------------------------------------------------------------------ |
| `ONNXRUNTIME_EXECUTION_PROVIDERS` | 우선순위 순의 실행 공급자 목록입니다. 공급자가 플랫폼에서 지원되지 않으면 경고가 표시됩니다.                             | 참고 [`env.py`](https://github.com/roboflow/inference/blob/main/inference/core/env.py) |
| `RUNS_ON_JETSON`                  | Inference가 Jetson 장치에서 실행되는지 여부입니다. 다음으로 설정: `True` Jetson 아키텍처용 모든 Docker 빌드에서. | `False`                                                                              |
| `MODEL_VALIDATION_DISABLED`       | 시험 추론을 건너뛰어 모델 로딩을 더 빠르게 합니다.                                                    | `False`                                                                              |
| `SAM2_MAX_EMBEDDING_CACHE_SIZE`   | GPU 메모리에 유지되는 SAM2 임베딩 수입니다. 각 임베딩은 16777216바이트를 차지합니다.                          | `100`                                                                                |
| `SAM2_MAX_LOGITS_CACHE_SIZE`      | CPU 메모리에 유지되는 SAM2 로짓 수입니다. 각 로짓은 262144바이트를 차지합니다.                              | `1000`                                                                               |
| `DISABLE_SAM2_LOGITS_CACHE`       | SAM2 로짓 캐싱을 비활성화합니다. 디버깅에 유용하며, 메모리 사용을 최소화할 수 있지만 비슷한 요청을 반복할 때 느려집니다.          | `False`                                                                              |

## `inference-models` 백엔드

| 변수                                                  | 설명                                                                                                                                                                                                                                                                                                                                                                                     | 기본값     |
| --------------------------------------------------- | -------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | ------- |
| `USE_INFERENCE_MODELS`                              | 다음을 선택합니다 `inference-models` 백엔드.                                                                                                                                                                                                                                                                                                                                                      | `False` |
| `MAX_INFERENCE_MODELS_CACHE_SIZE_MB`                | 다음을 활성화합니다 `inference-models` 캐시 감시 프로세스. 다음보다 크게 설정하면 `0`캐시 감시 프로세스가 시간이 지나 디스크 공간이 부족해지는 것을 방지하기 위해 모델 아티팩트를 정리합니다(오래되고 큰 것부터). 다음일 때만 적용됩니다: `USE_INFERENCE_MODELS=True`.                                                                                                                                                                                                           | `-1`    |
| `INFERENCE_MODELS_CACHE_WATCHDOG_INTERVAL_MINUTES`  | 다음의 빈도 `inference-models` 캐시 감시 주기입니다. 최소값은 15분입니다.                                                                                                                                                                                                                                                                                                                                    | `60`    |
| `ENABLE_CUDA_MEMORY_RECLAMATION_WATCHDOG`           | 백그라운드 데몬을 활성화하여, 주기적으로 캐시되었지만 사용되지 않는 CUDA 메모리를 드라이버에 반환합니다: `torch.cuda.empty_cache()`. PyTorch의 캐싱 할당자는 해제된 디바이스 블록을 자체 풀에 보관하고 스스로는 절대 해제하지 않으므로, 장시간 실행되는 서버에서는 동시 또는 배치 추론의 최고 사용량이 그대로 남고 예약된 VRAM만 계속 증가합니다. 이 감시 프로세스는 고정된 간격으로 그 여유분을 회수합니다. 현재 사용 중인 할당은 영향을 받지 않습니다. 이는 실제로 과도하게 할당된 동시 피크로 인한 OOM을 방지하지는 못합니다. 다음과 함께 사용할 때만 의미가 있습니다: `USE_INFERENCE_MODELS=True` CUDA에서. | `False` |
| `CUDA_MEMORY_RECLAMATION_WATCHDOG_INTERVAL_SECONDS` | CUDA 메모리 감시 프로세스의 회수 주기 사이 간격입니다. 최소값은 `5` 초입니다(더 낮은 값은 올림 처리됩니다). 다음일 때만 적용됩니다: `ENABLE_CUDA_MEMORY_RECLAMATION_WATCHDOG=True`.                                                                                                                                                                                                                                                       | `300`   |

## Workflows 및 비디오

| 변수                                  | 설명                                                                                                                                                     | 기본값                      |
| ----------------------------------- | ------------------------------------------------------------------------------------------------------------------------------------------------------ | ------------------------ |
| `ENABLE_WORKFLOWS_PROFILING`        | 서버가 Workflows 프로파일러 추적 정보를 클라이언트에 반환할 수 있게 합니다.                                                                                                        | `False`                  |
| `WORKFLOWS_PROFILER_BUFFER_SIZE`    | 프로파일러 버퍼의 크기: 연속된 Workflows Execution Engine의 수 `run(...)` 호출이 버퍼에 추적됩니다.                                                                              | `64`                     |
| `WORKFLOWS_DEFINITION_CACHE_EXPIRY` | 다음에서 반환된 Workflow 정의를 캐시하는 초 수 `get_workflow_specification(...)`.                                                                                      | `900` (15분)              |
| `ENABLE_STREAM_API`                 | 비디오 관리 API를 활성화합니다. 표준 CPU, GPU 및 TensorRT 이미지는 이를 다음으로 설정 `True`합니다. JetPack 5.1.1 및 6.2.0 이미지도 마찬가지입니다. 슬림 이미지와 JetPack 6.0.0 및 7.1.0 이미지는 그렇지 않습니다. | `False` 이를 설정하는 이미지 외부에서 |
| `STREAM_API_PRELOADED_PROCESSES`    | 미리 준비되는 유휴 비디오 워커 수입니다. 이렇게 하면 GPU에서 워커 시작 시간이 줄어듭니다.                                                                                                  | `0`                      |

## GPU 텐서 파이프라인

지원되는 NVIDIA GPU에서는 Workflows가 비디오 디코딩부터 모델 추론, 출력까지 이미지 데이터를 CPU를 거치지 않고 GPU에 유지할 수 있습니다. 이렇게 하면 GPU 중심의 비디오 Workflows 지연 시간이 줄어듭니다. 다음이 필요합니다 `USE_INFERENCE_MODELS=True`, compute capability 7.5 이상인 GPU(T4, RTX 20 시리즈 이상; V100 제외)와 다음이 필요합니다 `onnx.gpu` 또는 Jetson Docker 이미지입니다. 일치하는 GPU와 이미지가 없으면 Inference는 일반 CPU 기반 실행으로 대체됩니다.

| 변수                                        | 설명                                                              | 기본값                                    |
| ----------------------------------------- | --------------------------------------------------------------- | -------------------------------------- |
| `ENABLE_TENSOR_DATA_REPRESENTATION`       | GPU 텐서 파이프라인을 켭니다: GPU 상주 Workflows 실행과 하드웨어 가속(NVDEC) 비디오 디코딩. | `False`                                |
| `WORKFLOWS_IMAGE_TENSOR_DEVICE`           | 텐서 파이프라인이 활성화되었을 때 Workflow 텐서가 배치되는 Torch 디바이스입니다.             | `cuda` 사용 가능하면 cuda, 그렇지 않으면 `cpu`     |
| `VIDEO_SOURCE_BUFFER_SIZE`                | 각 비디오 소스당 버퍼링되는 디코딩된 프레임 수입니다.                                  | `8` 텐서 파이프라인이 활성화되었을 때, `64` 그 외에는     |
| `VIDEO_SOURCE_ADAPTIVE_BACKPRESSURE`      | 추정 프레임 속도 대신 버퍼 상태에 따라 버퍼링된 프레임을 드롭합니다.                         | 일치 `ENABLE_TENSOR_DATA_REPRESENTATION` |
| `WORKFLOWS_ENFORCE_DENSE_INSTANCE_MASKS`  | 텐서 파이프라인 모델에서 RLE 인코딩 마스크 대신 밀집 인스턴스 분할 마스크를 반환합니다.             | `False`                                |
| `WORKFLOWS_SAM_VIDEO_MASK_REPRESENTATION` | 마스크 형식 (`rle` 또는 `dense`)는 텐서 파이프라인의 SAM 비디오 추적 블록에서 사용됩니다.     | `rle`                                  |
| `DISABLE_GSTREAMER_VIDEO_SOURCES`         | GStreamer 기반 비디오 소스를 비활성화하여 표준 CPU 디코딩을 강제합니다.                  | `False`                                |

## Roboflow API 연결

| 변수                                             | 설명                                                                                                                                                                                                                                                                                                                                                                                | 기본값                  |
| ---------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | -------------------- |
| `TRANSIENT_ROBOFLOW_API_ERRORS`                | Roboflow API에서 재시도할 HTTP 코드의 쉼표로 구분된 목록입니다(GET 엔드포인트만).                                                                                                                                                                                                                                                                                                                           | 설정되지 않음              |
| `TRANSIENT_ROBOFLOW_API_ERRORS_RETRIES`        | 일시적 오류(연결 오류 및 일시적 HTTP 코드)를 재시도하는 횟수입니다(GET 엔드포인트만).                                                                                                                                                                                                                                                                                                                             | `3`                  |
| `TRANSIENT_ROBOFLOW_API_ERRORS_RETRY_INTERVAL` | 일시적 Roboflow API 오류를 재시도하는 사이의 지연입니다(GET 엔드포인트만).                                                                                                                                                                                                                                                                                                                                 | `3`                  |
| `RETRY_CONNECTION_ERRORS_TO_ROBOFLOW_API`      | Roboflow API 연결 오류를 재시도할지 여부입니다(GET 엔드포인트만).                                                                                                                                                                                                                                                                                                                                      | `False`              |
| `ROBOFLOW_API_REQUEST_TIMEOUT`                 | Roboflow API 요청의 시간 초과(정수, 초)입니다.                                                                                                                                                                                                                                                                                                                                                 | 설정되지 않음              |
| `API_PROXY_BASE_URL`                           | Roboflow API 프록시 요청에 사용되는 기본 URL: `apiproxy/*` 엔드포인트. 장시간 실행되는 타사 프록시 호출에서 Firebase Hosting 시간 초과를 우회하려면 이를 직접 heavy-API Cloud Run 서비스 루트로 설정하세요.                                                                                                                                                                                                                                 | 다음의 값 `API_BASE_URL` |
| `DISABLE_VERSION_CHECK`                        | 백그라운드 스레드에서 실행되는 Inference 버전 검사를 비활성화합니다. 다음으로 강제 설정됩니다 `True` (명시적인 다음 값을 덮어쓰며 `False`) 다음 경우: `SECURE_GATEWAY` 가 구성되어 있을 때, 왜냐하면 `api.github.com` 은 게이트웨이 뒤에서 접근할 수 없기 때문입니다.                                                                                                                                                                                                  | `False`              |
| `SECURE_GATEWAY`                               | 다음의 주소 [Roboflow Secure Gateway](/deployment/ko/self-hosted/enterprise/secure-gateway.md) 격리망 배포용 (레거시 별칭: `LICENSE_SERVER`). Roboflow API 및 모델 다운로드 트래픽을 게이트웨이 프록시를 통해 라우팅하고, 버전 검사를 강제로 비활성화하며, 다음 경우 로컬 Workflow 단계 실행으로 대체합니다 `원격` 및 `호스팅` 이 구성된 경우입니다. 참고: [Docker 구성 옵션](/deployment/ko/self-hosted/inference-server/configuration/docker-configuration.md#secure-gateway). | 설정되지 않음              |

## 모니터링 및 원격 측정

| 변수                               | 설명                                                                                                                                                                                     | 기본값                       |
| -------------------------------- | -------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | ------------------------- |
| `ENABLE_PROMETHEUS`              | Prometheus를 활성화합니다 `/metrics` 엔드포인트. 참고: [원격 측정](/deployment/ko/self-hosted/inference-server/configuration/telemetry.md).                                                              | `True` Docker Hub 이미지의 경우 |
| `DOCKER_SOCKET_PATH`             | 컨테이너에 마운트된 Docker 데몬 소켓의 경로입니다. 제공되면 데몬 소켓에서 Docker 컨테이너 통계를 폴링할 수 있습니다. 참고: [원격 측정](/deployment/ko/self-hosted/inference-server/configuration/telemetry.md#docker-container-metrics). | 설정되지 않음                   |
| `METRICS_ENABLED`                | Roboflow를 제어합니다 [모델 모니터링](/deployment/ko/monitoring-and-analytics/model-monitoring.md).                                                                                                | `True`                    |
| `MODEL_MONITORING_CACHE_BACKEND` | 모델 모니터링 핑백 데이터의 캐시 백엔드입니다. 다음을 사용: `기본값` 일반 캐시 선택을 따르려면(다음 경우 Redis `REDIS_HOST` 가 구성되어 있으면, 그렇지 않으면 메모리), 또는 `메모리` 프로세스 로컬 버퍼링을 강제하고 Redis를 inference 핫 경로에서 제외하려면.                   | `기본값`                     |

## HTTPS

| 변수                     | 설명                                                                                                                                                                                                        | 기본값                               |
| ---------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | --------------------------------- |
| `ENABLE_HTTPS`         | Inference 서버의 HTTPS를 전환합니다. 다음일 때: `True`서버는 다음을 읽습니다 `SSL_CERTFILE` 및 `SSL_KEYFILE` 을 읽고 TLS로 트래픽을 제공합니다. 참고: [HTTPS로 Inference 제공](/deployment/ko/self-hosted/inference-server/configuration/https.md). | `False`                           |
| `SSL_CERTFILE`         | 다음일 때 제공되는 PEM 인코딩 TLS 인증서의 경로입니다 `ENABLE_HTTPS=True`.                                                                                                                                                    | `/etc/inference/certs/server.crt` |
| `SSL_KEYFILE`          | 다음과 쌍을 이루는 PEM 인코딩 TLS 개인 키의 경로입니다 `SSL_CERTFILE`.                                                                                                                                                        | `/etc/inference/certs/server.key` |
| `SSL_KEYFILE_PASSWORD` | 다음을 해독하는 데 사용되는 암호문구입니다 `SSL_KEYFILE` 개인 키가 암호화된 경우.                                                                                                                                                      | 설정되지 않음                           |
| `SSL_CA_CERTS`         | 클라이언트 인증서 검증(mTLS)이 필요할 때 사용되는 CA 번들의 경로입니다.                                                                                                                                                              | 설정되지 않음                           |

## 인증 및 입력 보안

| 변수                                            | 설명                                                                                                                                                  | 기본값     |
| --------------------------------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------- | ------- |
| `WORKSPACES_WHITELISTED_FOR_LOCAL_DEPLOYMENT` | 이 서버에 요청을 실행할 수 있도록 허용된 Roboflow 워크스페이스 URL 슬러그의 쉼표로 구분된 목록입니다. 설정되면 문서, 랜딩 페이지, health, liveness, metrics 엔드포인트를 제외한 모든 요청이 Roboflow API 키로 인증됩니다. | 설정되지 않음 |

사용자 지정 Python 실행 및 URL 이미지 가져오기를 제어하는 변수(`ALLOW_CUSTOM_PYTHON_EXECUTION_IN_WORKFLOWS`, `ALLOW_URL_INPUT`, `ALLOW_URL_TO_NON_GLOBAL_ADDRESSES`, `VALIDATE_IMAGE_URL_REDIRECTS`, 기타)는 다음에 문서화되어 있습니다 [자체 호스팅 서버 보안 강화](/deployment/ko/self-hosted/inference-server/configuration/security.md) 및 [허용되는 입력 형식](/deployment/ko/self-hosted/inference-server/configuration/input-formats.md).