> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ko/self-hosted/enterprise/offline-mode.md).

# 오프라인 모드

Roboflow Enterprise 고객은 오프라인으로 모델을 배포할 수 있습니다.

{% hint style="info" %}
Roboflow Enterprise 고객의 오프라인 모드는 Docker 컨테이너를 사용해야 합니다.
{% endhint %}

Roboflow Enterprise 고객은 온디바이스 추론 서버인 Roboflow Inference를 구성하여 최대 30일 동안 가중치를 캐시할 수 있습니다.

이를 통해 모델을 완전히 에어갭 환경에서 실행하거나 인터넷 연결을 쉽게 사용할 수 없는 위치에서 실행할 수 있습니다.

모델을 오프라인으로 실행하려면 다음이 필요합니다:

1. Docker 볼륨을 생성하고 연결합니다 `/tmp/cache` 귀하의 Inference Server에
2. Docker로 Roboflow Inference 서버를 시작합니다.
3. 서버를 통해 모델에 요청을 보내면 모델 가중치 다운로드 및 캐시 프로세스가 시작됩니다. 이 단계에는 인터넷 연결이 필요합니다.

가중치가 캐시되면 로컬에서 사용할 수 있습니다.

아래에서는 CPU부터 GPU까지 다양한 장치 유형에서 모델을 오프라인으로 실행하는 방법을 안내합니다.

## 런타임 승인

명시적으로 활성화하면 `OFFLINE_MODE=True`, 온라인 Workspace 인증은 사용할 수 없습니다. 모델 캐시 승인에는 별도의 `ALLOW_OFFLINE_MODEL_CACHE_AUTH_BYPASS=True` 신뢰할 수 있는 단일 테넌트 사용을 위한 옵트인이 필요합니다. 참조: [모델 패키지 보안](/deployment/ko/self-hosted/inference-server/configuration/model-security.md#offline-authorization).

대기 중인 런타임 강화 빌드는 다음을 거부합니다 `WORKFLOWS_CUSTOM_PYTHON_EXECUTION_MODE=modal` 오프라인 모드에서 로컬로 조용히 실행하는 대신. 참조: [보안 구성 마이그레이션](/deployment/ko/self-hosted/inference-server/configuration/security-migration.md#offline-custom-python) 해당 조합을 업그레이드하기 전에.

## CPU

이미지: [roboflow / roboflow-inference-server-cpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-cpu)

```bash
sudo docker volume create roboflow
sudo docker run -p 127.0.0.1:9001:9001 --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-cpu
```

배포에 Secure Gateway를 사용하는 경우, 다음을 사용하여 명시적 HTTPS URL과 인증서 신뢰를 구성합니다 [Inference Server 연결](/deployment/ko/self-hosted/enterprise/secure-gateway.md#connecting-inference-servers).

## GPU

GPU 컨테이너를 사용하려면 먼저 다음을 설치해야 합니다 [nvidia-container-runtime](https://github.com/NVIDIA/nvidia-container-runtime).

이미지:[ roboflow / roboflow-inference-server-gpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-gpu)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --gpus all --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-gpu
```

## Jetson 4.5

귀하의 Jetson Jetpack 4.5에는 이미 <https://github.com/NVIDIA/nvidia-container-runtime> 설치되어 있습니다.

이미지:[ roboflow/roboflow-inference-server-jetson-4.5.0](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.5.0)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.5.0
</strong></code></pre>

## Jetson 4.6

귀하의 Jetson Jetpack 4.6에는 이미 <https://github.com/NVIDIA/nvidia-container-runtime> 설치되어 있습니다.

이미지:[ roboflow/roboflow-inference-server-jetson-4.6.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.6.1/tags)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.6.1
</strong></code></pre>

## Jetson 5.1

귀하의 Jetson Jetpack 5.1에는 이미 <https://github.com/NVIDIA/nvidia-container-runtime> 설치되어 있습니다.

이미지: [roboflow/roboflow-inference-server-jetson-5.1.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-5.1.1)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-5.1.1
```

## 추론 실행

Inference 서버를 로컬 캐싱으로 설정하면 인터넷 연결 없이 이미지 및 비디오 프레임에서 모델을 실행할 수 있습니다.

참조 [새 서버에서 모델을 실행하세요.](/deployment/ko/self-hosted/self-hosted.md#run-model-locally) 모델을 실행하는 방법에 대한 안내를 위해.

## 추론 결과

가중치는 인터넷을 통해 귀하의 Roboflow 계정에서 (구성한 경우 License Server를 통해) SSL 암호화로 로드되며, Docker 볼륨에 최대 30일 동안 안전하게 저장됩니다.

추론 결과에는 새 `만료` 키가 포함되며, 이를 사용해 인터넷 또는 License Server 연결을 통해 가중치 임대를 갱신하기 전까지 Inference Server가 예측을 계속 제공할 수 있는 기간을 확인할 수 있습니다. 가중치 만료일이 7일 미만으로 내려가면 Inference Server는 Roboflow API에 성공적으로 연결될 때까지 1시간에 한 번씩 가중치 임대 갱신을 시도하기 시작합니다.

임대가 갱신되면 카운터는 30일로 재설정됩니다.

```json
{
    "predictions": [
        {
            "x": 340.9,
            "y": 263.6,
            "width": 284,
            "height": 360,
            "class": "example",
            "confidence": 0.867
        }
    ],
    "expiration": {
        "value": 29.91251408564815,
        "unit": "days"
    }
}
```

{% hint style="info" %}
모델을 오프라인으로 배포하는 방법에 대해 질문이 있으면 Roboflow 담당자에게 문의하여 안내를 받으세요.
{% endhint %}
