> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server.md).

# Inference Server

Inference Server는 다음을 래핑하는 독립형 마이크로서비스입니다 [`추론` Python 패키지](/deployment/ko/self-hosted/inference-library.md). 이미지용 HTTP 엔드포인트와 비디오 스트림용 WebRTC 엔드포인트를 제공합니다. 하나의 서버는 여러 클라이언트에 서비스를 제공하고 동일한 모델과 [워크플로](https://docs.roboflow.com/workflows) Roboflow의 호스팅 API와 동일합니다. 자체 호스팅을 위한 권장 방법입니다: 다음을 참조하세요 [경로를 선택하세요](/deployment/ko/self-hosted/self-hosted.md#pick-a-path) 라이브러리를 직접 실행하는 것과 어떻게 비교되는지에 대해서는.

## 실행 위치

Raspberry Pi, NVIDIA GPU, NVIDIA Jetson 또는 일반 서버와 같은 자체 하드웨어에서 서버를 자체 호스팅하려면 [Docker](/deployment/ko/self-hosted/inference-server/install.md), 또는 [자체 AWS, GCP 또는 Azure 계정에서](/deployment/ko/self-hosted/inference-server/install/cloud.md). Roboflow는 또한 동일한 서버를 다음 형태로 운영해 드립니다 [서버리스 호스팅 API](/deployment/ko/roboflow-cloud/serverless-api.md) 및 [전용 배포](/deployment/ko/roboflow-cloud/dedicated-deployments.md): 다음을 참조하세요 [배포 옵션 선택](/deployment/ko/choosing-a-deployment.md).

어느 것을 선택하든, 다음을 통해 상호작용합니다 [Inference SDK](https://docs.roboflow.com/reference/inference/inference-sdk), 이들은 하나의 인터페이스를 공유하기 때문입니다: 오직 `api_url` 변경 사항만

## Docker로 실행하기

시작하기 전에 다음을 확인하세요 [Docker가 설치되어 있는지](https://www.docker.com/get-started) 가 머신에. Inference Server를 시작하는 가장 쉬운 방법은 다음을 사용하는 것입니다 [Inference CLI](https://docs.roboflow.com/reference/inference/inference-cli):

```bash
pip install inference-cli && inference server start
```

이것은 해당 머신에 맞는 적절한 Docker 이미지를 종속성이 사전 설치된 상태로 가져와, 포트 9001에서 Inference Server를 시작합니다. 서버 상태는 다음으로 확인하세요:

```bash
inference server status
```

## Docker 컨테이너를 수동으로 설정하기

`inference server start` 실행됩니다 `docker run` 권장 보안 설정, 캐싱, 플랫폼별 옵션과 함께 내부적으로.

컨테이너를 직접 시작하려면 플랫폼의 설치 가이드에서 "컨테이너를 수동으로 시작하기" 섹션을 참조하세요:

* [리눅스](/deployment/ko/self-hosted/inference-server/install/linux.md#manually-starting-the-container)
* [윈도우](/deployment/ko/self-hosted/inference-server/install/windows.md#manually-starting-the-container)
* [Mac](/deployment/ko/self-hosted/inference-server/install/mac.md#using-docker)
* [Jetson](/deployment/ko/self-hosted/inference-server/install/jetson.md#manually-starting-the-container)
* [Raspberry Pi](/deployment/ko/self-hosted/inference-server/install/raspberry-pi.md#manually-starting-the-container)

컨테이너 설정은 환경 변수로 제어됩니다: 다음을 참조하세요 [Docker 구성 옵션](/deployment/ko/self-hosted/inference-server/configuration/docker-configuration.md) 및 전체 [환경 변수 참조](/deployment/ko/self-hosted/inference-server/configuration/environment-variables.md).

## 내장 JupyterLab 노트북

Inference Server에는 내장 JupyterLab 환경이 함께 제공되며, 이는 개발 및 테스트 중 실험을 가장 빠르게 할 수 있는 방법입니다. 기본적으로 비활성화되어 있으므로, 다음 옵션으로 서버를 시작하세요 `--dev` 플래그로 활성화하세요:

```bash
pip install inference-cli
inference server start --dev
```

그런 다음 다음을 엽니다 `http://localhost:9001` 브라우저에서 Inference 랜딩 페이지를 확인하세요. 이 페이지에는 리소스, 예제, 내장 JupyterLab 환경으로 연결되는 링크가 있습니다. "Inference 지원 노트북으로 바로 이동"을 선택하면 새 탭에서 JupyterLab이 열립니다. 예제 노트북과 Inference를 실행하는 데 필요한 모든 종속성이 미리 로드되어 있습니다.

{% hint style="warning" %}
다음 `--dev` 노트북 환경은 로컬 개발용입니다. 신뢰할 수 없는 네트워크에서 접근 가능한 서버에서는 활성화하지 마세요: 다음을 참조하세요 [자가 호스팅 서버 보안 설정](/deployment/ko/self-hosted/inference-server/configuration/security.md).
{% endhint %}

## 비디오 스트리밍

Inference SDK WebRTC 클라이언트를 사용해 웹캠, 카메라 피드, 비디오 파일을 모델 또는 Workflow를 통해 스트리밍하세요:

```bash
pip install "inference-sdk[webrtc]"
```

설정 `api_url="http://localhost:9001"` 을 생성할 때 `InferenceHTTPClient`. 전체 가이드는  [WebRTC 스트리밍](https://docs.roboflow.com/reference/inference/inference-sdk/webrtc) 모델 및 Workflow 예제는 다음을 참조하거나, 또는 다음을 따르세요 [Workflows를 사용한 비디오 처리](https://docs.roboflow.com/workflows/deploy/video-processing) 작업 기반 가이드를 보세요.

## 이 섹션에서

<table data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Inference Server 설치</strong></td><td>요구 사항, 기기별 설치 가이드, 자체 클라우드, 업데이트.</td><td><a href="/pages/b2c160ddba2c565e7b71dd738e03e23ee1aea582">/pages/b2c160ddba2c565e7b71dd738e03e23ee1aea582</a></td></tr><tr><td><strong>모델 실행</strong></td><td>HTTP를 통한 첫 요청, 모델 ID, 시각화.</td><td><a href="/pages/478fbdc159a367bacfa5b94ff60f21724a6234a0">/pages/478fbdc159a367bacfa5b94ff60f21724a6234a0</a></td></tr><tr><td><strong>구성</strong></td><td>컨테이너 옵션, 환경 변수, 보안, HTTPS, 원격 측정.</td><td><a href="/pages/d2f596205b5e62b40a0a71043c676ba005f6a75a">/pages/d2f596205b5e62b40a0a71043c676ba005f6a75a</a></td></tr><tr><td><strong>아키텍처</strong></td><td>요청, 비디오, Workflows가 서버를 통해 흐르는 방식.</td><td><a href="/pages/6e06fe903f582ac4992289b282de3528f534fcc9">/pages/6e06fe903f582ac4992289b282de3528f534fcc9</a></td></tr></tbody></table>