> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/windows.md).

# Windows에 설치

네이티브 설치 관리자 또는 Docker Desktop을 사용하여 CPU, GPU 또는 TensorRT에서 Windows에 Roboflow Inference Server를 설치합니다.

이 페이지의 Docker 예제는 localhost의 포트 9001을 공개합니다. 다른 컴퓨터의 클라이언트의 경우, 매핑을 접근 가능한 호스트 주소로 의도적으로 변경하고 구성하세요 [서버 액세스](/deployment/ko/self-hosted/inference-server/configuration/security.md#restrict-network-access).

## Windows 설치 프로그램(x86)

기본 데스크톱 앱으로 Windows 머신에서 Roboflow Inference Server를 실행할 수 있습니다. 최신 GitHub 릴리스에서 최신 Windows 설치 프로그램을 다운로드하세요: [GitHub에서 최신 릴리스를 보고 설치 프로그램을 다운로드하세요](https://github.com/roboflow/inference/releases).

1. [최신 설치 프로그램 다운로드](https://github.com/roboflow/inference/releases) 그리고 이를 실행하여 Roboflow Inference를 설치하세요.
2. 설치가 끝나면 Inference Server를 실행하겠냐고 제안합니다.
3. 서버를 중지하려면 열리는 터미널 창을 닫으세요.
4. 나중에 다시 시작하려면 **Roboflow Inference** 를 시작 메뉴에서 찾으세요.

{% hint style="info" %}
**`inference-models` 백엔드.** 다음과 함께 사용할 경우 `inference-models` 백엔드에서는 심볼릭 링크를 이용한 캐시 관리 때문에 Inference Server를 상승된 관리자 권한으로 실행해야 합니다. 대안은 [개발자 모드](https://learn.microsoft.com/en-us/windows/advanced-settings/developer-mode).

다음 `inference-models` 백엔드는 환경 플래그를 통해 선택적으로 활성화됩니다: `$env:USE_INFERENCE_MODELS = "True"`.
{% endhint %}

## Docker 사용

먼저, [Docker Desktop을 설치하세요](https://docs.docker.com/desktop/setup/install/windows-install/)입니다. 그런 다음 CLI를 사용해 컨테이너를 시작하세요.

{% tabs %}
{% tab title="CPU" %}

```bash
pip install inference-cli
inference server start
```

{% endtab %}

{% tab title="GPU" %}
GPU에 액세스하려면 최신 NVIDIA 드라이버와 최신 버전의 WSL 2가 설치되어 있고, Docker에서 WSL 2 백엔드가 구성되어 있는지 확인하세요. [Docker의 설정 안내를 따르세요](https://docs.docker.com/desktop/features/gpu/).

그런 다음 CLI를 사용해 컨테이너를 시작하세요:

```bash
pip install inference-cli
inference server start
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
만약 `pip install` 명령이 실패하면, 다음이 필요할 수 있습니다 [Python을 설치해야 할 수 있습니다](https://www.python.org/downloads/) 먼저. 머신에 Python 3.12, 3.11 또는 3.10이 있으면 명령을 다시 시도하세요.
{% endhint %}

## 컨테이너를 수동으로 시작하기

컨테이너 설정을 더 세밀하게 제어하고 싶다면, 직접 시작하세요.

{% tabs %}
{% tab title="CPU" %}
핵심 CPU Docker 이미지에는 onnxruntime를 통해 x64 CPU에서 OpenVINO 가속을 지원하는 기능이 포함되어 있습니다. SAM2 같은 무거운 모델은 너무 느리게 실행되어(이미지당 수십 초) 실용적이지 않을 수 있습니다. 그런 모델이 필요하다면 CUDA를 지원하는 GPU를 사용하세요.

CPU 추론의 주요 사용 사례는 정지 이미지 처리(예: 업로드된 파일의 NSFW 분류 또는 문서 검증) 또는 비디오에서 프레임을 드물게 샘플링하는 것(예: 주차장 점유 추적)입니다.

CPU 추론을 시작하려면 `roboflow/roboflow-inference-server-cpu:latest` 컨테이너를 사용하세요.

```bash
docker run -d ^
    --name inference-server ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    roboflow/roboflow-inference-server-cpu:latest
```

{% endtab %}

{% tab title="GPU" %}
GPU 컨테이너는 NVIDIA-Docker를 통해 CUDA를 지원하는 카드에 하드웨어 가속을 추가합니다. 다음이 구성되어 있는지 확인하세요. [GPU에 액세스하도록 Docker를 설정했는지](https://docs.docker.com/desktop/features/gpu/)그런 다음 `--gpus all` 을 `docker run` 명령을 추가하세요:

```bash
docker run -d ^
    --name inference-server ^
    --gpus all ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}

{% tab title="TensorRT" %}
GPU 컨테이너에서는 선택적으로 [TensorRT](https://developer.nvidia.com/tensorrt), NVIDIA의 모델 최적화 런타임입니다. 각 모델을 처음 로드할 때 무거운 컴파일 및 최적화 단계(때때로 15분 이상)를 치르는 대신 모델 속도를 크게 높여줍니다.

TensorRT를 활성화하려면 다음을 추가하세요 `TensorrtExecutionProvider` 을 `ONNXRUNTIME_EXECUTION_PROVIDERS` 환경 변수를 활성화할 수 있습니다.

```bash
docker run -d ^
    --name inference-server ^
    --gpus all ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    -e ONNXRUNTIME_EXECUTION_PROVIDERS="[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]" ^
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}
{% endtabs %}

## Docker Compose

애플리케이션에 Docker Compose를 사용한다면, 이에 해당하는 YAML은 다음과 같습니다:

{% tabs %}
{% tab title="CPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-cpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="GPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="TensorRT" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    environment:
      ONNXRUNTIME_EXECUTION_PROVIDERS: "[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
Roboflow Enterprise 요금제에는 [Helm 차트](https://github.com/roboflow/inference/tree/main/inference/enterprise/helm-chart) Kubernetes 배포, OT 네트워크용 네트워킹 솔루션, 맞춤형 지원 및 설치 패키지를 위한 것입니다. [영업팀에 문의하세요](https://roboflow.com/sales) 자세한 내용을 알아보세요.
{% endhint %}

## 다음 단계

* [새 서버에서 모델을 실행하세요.](/deployment/ko/self-hosted/self-hosted.md#run-model-locally) 새 서버를 대상으로.
* [설치 `inference-gpu` Windows의 베어메탈](/deployment/ko/self-hosted/inference-library/bare-metal-gpu-windows.md) Docker를 사용할 수 없는 경우.
* [자체 호스팅 서버 보안](/deployment/ko/self-hosted/inference-server/configuration/security.md) localhost를 넘어 노출하기 전에.