> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server.md).

# Inference 서버

Inference Server가 무엇인지, Docker와 Inference CLI로 어떻게 시작하는지, 그리고 내장된 JupyterLab 노트북을 여는 방법입니다.

Inference Server는 다음을 감싸는 독립형 마이크로서비스입니다. [`inference` Python 패키지](https://docs.roboflow.com/deployment/ko/self-hosted/inference-library.md). 이미지용 HTTP 엔드포인트와 비디오 스트림용 WebRTC 엔드포인트를 제공합니다. 하나의 서버에서 여러 클라이언트를 지원하고 Roboflow 호스팅 API와 동일한 모델 및 [워크플로](https://docs.roboflow.com/workflows) 을 실행할 수 있습니다. 직접 호스팅할 때 권장되는 방식입니다. 라이브러리를 직접 실행하는 방식과 비교하려면 [방식 선택](https://docs.roboflow.com/deployment/ko/self-hosted/self-hosted.md#pick-a-path) 을 참고하세요.

## 실행 위치

Raspberry Pi, NVIDIA GPU, NVIDIA Jetson 또는 일반 서버 등 자체 하드웨어에서 [Docker](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install.md)를 사용해 서버를 자체 호스팅하거나, [자체 AWS, GCP 또는 Azure 계정](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/cloud.md)에서 실행할 수 있습니다. Roboflow는 동일한 서버를 다음 서비스로도 운영합니다. [서버리스 클라우드 API](https://docs.roboflow.com/deployment/ko/roboflow-cloud/serverless-api.md) 및 [전용 배포](https://docs.roboflow.com/deployment/ko/roboflow-cloud/dedicated-deployments.md)를 참고하세요. [배포 옵션 선택](https://docs.roboflow.com/deployment/ko/choosing-a-deployment.md).

어떤 옵션을 선택하든 [Inference SDK](https://docs.roboflow.com/reference/inference/inference-sdk)를 통해 사용합니다. 두 옵션은 동일한 인터페이스를 공유하므로 `api_url` 만 변경하면 됩니다.

## Docker로 실행하기

시작하기 전에 컴퓨터에 [Docker가 설치되어 있는지](https://www.docker.com/get-started) 확인하세요. Inference Server를 가장 쉽게 시작하는 방법은 [Inference CLI](https://docs.roboflow.com/reference/inference/inference-cli):

```bash
pip install inference-cli && inference server start
```

를 사용하는 것입니다. 이 명령은 적절한 Docker 이미지를 가져오고 기본적으로 포트 9001을 `127.0.0.1` 에 게시합니다. Jetson 이미지와 `--tunnel` 옵션으로 실행한 경우에는 포트를 `0.0.0.0`에 게시합니다. 원격 클라이언트를 허용하기 전에 [서버 보안](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/security.md#restrict-network-access) 을 확인하세요.

다음 명령으로 서버 상태를 확인하세요.

```bash
inference server status
```

## Docker 컨테이너 수동 설정

`inference server start` 명령은 내부적으로 권장 보안 설정, 캐싱 및 플랫폼별 옵션을 적용해 `docker run` 을 실행합니다.

컨테이너를 직접 시작하려면 해당 플랫폼의 설치 가이드에서 "컨테이너 수동 시작" 섹션을 참고하세요.

* [Linux](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/linux.md#manually-starting-the-container)
* [Windows](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/windows.md#manually-starting-the-container)
* [Mac](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/mac.md#using-docker)
* [Jetson](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/jetson.md#manually-starting-the-container)
* [Raspberry Pi](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install/raspberry-pi.md#manually-starting-the-container)

컨테이너 설정은 환경 변수로 제어합니다. 다음을 참고하세요. [Docker 구성 옵션](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/docker-configuration.md) 및 전체 [환경 변수 참조](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/environment-variables.md).

## 내장 JupyterLab 노트북

Inference Server에는 개발 및 테스트 중 가장 빠르게 실험할 수 있는 내장 JupyterLab 환경이 제공됩니다. 기본적으로 비활성화되어 있으므로, 활성화하려면 다음 옵션을 사용해 서버를 시작하세요. `--dev` 플래그:

```bash
pip install inference-cli
inference server start --dev
```

그런 다음 브라우저에서 `http://localhost:9001` 을 열면 리소스, 예제, 내장 JupyterLab 환경으로 연결되는 Inference 랜딩 페이지가 표시됩니다. "Inference가 활성화된 노트북으로 이동"을 선택하면 새 탭에서 JupyterLab이 열립니다. 여기에는 예제 노트북과 Inference를 실행하는 데 필요한 모든 종속 항목이 미리 포함되어 있습니다.

{% hint style="warning" %}
\--dev `노트북 환경은 로컬 개발용입니다. 신뢰할 수 없는 네트워크에서 접근 가능한 서버에서는 이 기능을 활성화하지 마세요. 자세한 내용은` 를 참조하세요. [자체 호스팅 서버 보안](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/security.md).
{% endhint %}

## 비디오 스트리밍

Inference Server에서 Inference SDK WebRTC 클라이언트를 사용해 웹캠, 카메라 피드, 비디오 파일을 모델 또는 Workflow로 스트리밍하세요.

```bash
pip install "inference-sdk[webrtc]"
```

생성할 때 `api_url="http://localhost:9001"` 를 설정하세요. `InferenceHTTPClient`를 참조하세요. [WebRTC 스트리밍](https://docs.roboflow.com/reference/inference/inference-sdk/webrtc) 에서 모델 및 Workflow 예제를 확인하거나, 작업별 안내서인 [Workflow를 사용한 비디오 처리](https://docs.roboflow.com/workflows/deploy/video-processing) 를 따라 해 보세요.

## 이 섹션의 내용

<table data-view="cards" data-search="false"><thead><tr><th></th><th></th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Inference Server 설치</strong></td><td>요구 사항, 장치별 설치 안내서, 자체 클라우드 및 업데이트.</td><td><a href="https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/install.md">Inference Server 설치</a></td></tr><tr><td><strong>모델 실행</strong></td><td>첫 HTTP 요청, 모델 ID 및 시각화.</td><td><a href="https://docs.roboflow.com/deployment/ko/self-hosted/self-hosted.md">자체 호스팅 배포</a></td></tr><tr><td><strong>구성</strong></td><td>컨테이너 옵션, 환경 변수, 보안, HTTPS 및 원격 분석.</td><td><a href="https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration.md">구성</a></td></tr><tr><td><strong>아키텍처</strong></td><td>요청, 비디오 및 Workflow가 서버를 통해 처리되는 방식.</td><td><a href="https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/architecture.md">Inference 아키텍처</a></td></tr></tbody></table>
