> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install.md).

# Inference Server 설치

Linux, Windows, macOS, NVIDIA Jetson, Raspberry Pi 또는 자체 클라우드에서 Docker나 기본 데스크톱 앱으로 Roboflow Inference Server를 설치합니다.

플랫폼에 맞는 설치 방법을 선택하세요. 모든 방법에서 서버가 시작되는 포트는 **9001**.

{% tabs %}
{% tab title="Docker(권장)" %}
Inference를 실행할 때는 Docker를 사용하는 것이 좋습니다(자세한 내용은 [Docker를 사용하는 이유](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/architecture.md#why-docker) 참고). Linux, macOS, Windows, Jetson 및 Docker를 지원하는 기타 장치에서 사용할 수 있습니다.

[먼저 Docker를](https://docs.docker.com/engine/install/) 설치하세요( CUDA를 지원하는 GPU가 있다면 [NVIDIA Container Toolkit](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html) 도 설치하세요). 그런 다음 [Inference CLI](https://docs.roboflow.com/reference/inference/inference-cli):

```bash
pip install inference-cli && inference server start
```

를 설치하고 실행하세요. 그러면 머신에 맞는 최적의 컨테이너가 자동으로 선택되고 구성됩니다.
{% endtab %}

{% tab title="Windows(기본 앱)" %}
Docker 없이 기본 데스크톱 앱으로 Windows에서 Inference 서버를 실행하세요.

1. [최신 설치 프로그램을 다운로드](https://github.com/roboflow/inference/releases) 한 다음 실행하세요.
2. 설치가 완료되면 Inference Server를 실행할지 묻는 메시지가 표시됩니다.
3. 서버를 중지하려면 서버가 연 터미널 창을 닫으세요.
4. 나중에 다시 시작하려면 시작 메뉴에서 **Roboflow Inference** 를 찾으세요.

자세한 내용과 Docker 대안은 [Windows에 설치](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/windows.md) 을 참조하세요.
{% endtab %}

{% tab title="macOS(기본 앱)" %}
Docker 없이 기본 데스크톱 앱으로 Apple Silicon Mac에서 Inference 서버를 실행하세요.

1. [DMG를 다운로드](https://github.com/roboflow/inference/releases) 한 다음 여세요.
2. Roboflow Inference 앱을 Applications 폴더로 드래그합니다.
3. 응용 프로그램에서 앱을 두 번 클릭하면 서버가 시작됩니다.

자세한 내용, Docker 대안 및 MPS 가속에 대해서는 [Mac에 설치](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/mac.md) 을 참조하세요.
{% endtab %}
{% endtabs %}

## 요구 사항

Inference는 머신 환경에 맞게 조정되며, 하드웨어 성능이 높을수록 더 빠르게 실행됩니다. 최소 요구 사항은 64비트 프로세서, RAM 4GB, 여유 디스크 공간 20GB입니다. [Docker](https://www.docker.com/get-started) 는 위의 컨테이너 방식에 필요합니다.

| 대상                | 하드웨어                                                                                                                                                                         | 운영체제                                     | Docker 이미지                                                          |
| ----------------- | ---------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | ---------------------------------------- | ------------------------------------------------------------------- |
| **CPU**           | 64비트 CPU, RAM 4GB, 여유 디스크 공간 20GB. 대형 모델(예: SAM2)은 실제 사용에 적합하지 않을 정도로 느릴 수 있습니다.                                                                                             | Linux, macOS 또는 WSL 2가 설치된 Windows 10/11 | `roboflow/roboflow-inference-server-cpu`                            |
| **GPU**           | CUDA를 지원하는 NVIDIA GPU 및 설치된 [NVIDIA Container Toolkit](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html) . 대형 모델과 실시간 동영상에 권장됩니다. | Linux(또는 WSL 2가 설치된 Windows 10/11)       | `roboflow/roboflow-inference-server-gpu`                            |
| **NVIDIA Jetson** | JetPack 4.5, 4.6, 5.x 또는 6.x를 실행하는 Jetson Orin 장치(Orin NX 16GB 이상 권장). 이미지용 여유 디스크 공간을 약 10GB 확보하세요.                                                                         | JetPack / L4T                            | `roboflow/roboflow-inference-server-jetson-*` (JetPack별 이미지, 자동 선택) |

지원 및 권장 장치 전체 목록은 [최소 요구 사항](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/minimum-requirements.md) 을 참조하세요.

## 장치별 가이드

장치별 특별 설치 참고 사항 및 성능 팁:

* [Linux](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/linux.md)
* [Windows](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/windows.md)
* [Mac](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/mac.md)
* [NVIDIA Jetson](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/jetson.md)
* [Raspberry Pi](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/raspberry-pi.md)
* [기타 장치](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/other.md)
* [자체 클라우드에 배포](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/cloud.md) - AWS, Azure 또는 GCP

Docker를 전혀 실행할 수 없는 경우, [Inference Library](https://docs.roboflow.com/deployment/ko/self-hosted/inference-library.md) 를 사용하면 서버 대신 자체 Python 프로세스에서 모델을 실행할 수 있습니다.

## 컨테이너 직접 실행

일반적으로 이미지를 직접 선택할 필요는 없습니다. `inference server start` 가 하드웨어를 감지하고 권장 보안 설정, 캐싱 및 플랫폼별 옵션을 적용해 `docker run` 을 대신 실행합니다. 컨테이너를 직접 관리하려면 CPU 전용 호스트에서는 CPU 이미지를 사용하고, CUDA 호스트에서는 GPU 이미지와 함께 `--gpus all` 을 사용하세요.

수동 Docker 예시에서는 localhost에 포트를 게시합니다. 원격 클라이언트를 사용하려면 호스트 측 포트 매핑을 변경하고 다음을 설정하세요. [서버 액세스](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/security.md#restrict-network-access).

{% tabs %}
{% tab title="CPU" %}

```bash
sudo docker run -d \
    --name inference-server \
    --read-only \
    -p 127.0.0.1:9001:9001 \
    --volume ~/.inference/cache:/tmp:rw \
    --security-opt="no-new-privileges" \
    --cap-drop="ALL" \
    --cap-add="NET_BIND_SERVICE" \
    roboflow/roboflow-inference-server-cpu:latest
```

{% endtab %}

{% tab title="GPU" %}
먼저 [NVIDIA Container Toolkit](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html) 을 설치한 다음 `--gpus all`:

```bash
sudo docker run -d \
    --name inference-server \
    --gpus all \
    --read-only \
    -p 127.0.0.1:9001:9001 \
    --volume ~/.inference/cache:/tmp:rw \
    --security-opt="no-new-privileges" \
    --cap-drop="ALL" \
    --cap-add="NET_BIND_SERVICE" \
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}
{% endtabs %}

플랫폼 가이드의 "컨테이너 수동 시작" 섹션에서 해당 장치에 사용할 정확한 플래그를 확인할 수 있습니다.

## 업데이트

Docker 이미지의 기본 태그는 `:latest` 입니다. 최신 서버로 업데이트하려면 최신 이미지를 가져오거나 `inference server start`를 다시 실행하세요. 이 명령이 이미지를 가져옵니다.

```bash
docker pull roboflow/roboflow-inference-server-gpu:latest
```

배포를 재현할 수 있도록 하려면 **특정 버전 태그를 고정** 하여 `:latest` 대신 사용하면 업데이트로 인해 동작이 예기치 않게 바뀌지 않습니다. 예를 들면 다음과 같습니다. `roboflow/roboflow-inference-server-gpu:<version>`입니다. 사용 가능한 태그는 [Docker Hub](https://hub.docker.com/u/roboflow)에서 확인하고, 고정한 태그를 올려 의도적으로 업데이트하세요.

## 서버 보안 강화

CLI는 Jetson 이미지와 터널 실행을 제외하면 기본적으로 localhost에 포트를 게시하며, 데스크톱 번들도 localhost를 기본값으로 사용합니다. 자체 호스팅 API 인증과 HTTPS는 기본적으로 비활성화되어 있고, Custom Python은 로컬에서 계속 활성화되어 있습니다. 원격 클라이언트를 허용하기 전에 [자체 호스팅 서버 보안 강화](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/security.md).

## 새 서버 사용하기

서버가 실행되면 [HTTP API](https://docs.roboflow.com/deployment/ko/self-hosted/self-hosted.md#run-model-locally) 를 통해 호출하거나 [Inference SDK](https://docs.roboflow.com/reference/inference/inference-sdk)를 사용하세요. 자세한 내용은 [모델 실행](https://docs.roboflow.com/deployment/ko/self-hosted/self-hosted.md#run-model-locally) 첫 번째 요청의 경우, 그리고 [컨테이너를 조정하기 위한](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/docker-configuration.md) Docker 구성 옵션.

## 엔터프라이즈 고려 사항

[Helm 차트](https://github.com/roboflow/inference/tree/main/inference/enterprise/helm-chart) 엔터프라이즈 클라우드 배포에 사용할 수 있으며, OT 네트워크 배포를 지원하는 엔터프라이즈 네트워킹 솔루션은 요청 시 제공됩니다.

Roboflow는 맞춤형 지원 및 설치 패키지와 [사전 구성된 Jetson 기반 엣지 디바이스도 제공합니다.](https://roboflow.com/hardware) 빠른 프로토타이핑에 적합합니다. [영업팀에 문의하세요](https://roboflow.com/sales) 대규모 조직에 소속되어 있고 자세히 알아보고 싶다면 문의하세요. 전체 기능은 [엔터프라이즈 배포](https://docs.roboflow.com/deployment/ko/self-hosted/enterprise.md) 에서 확인하세요.
