> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/roboflow/roboflow-ko/deploy/enterprise-deployment/offline-mode.md).

# 오프라인 모드

{% hint style="info" %}
Roboflow Enterprise 고객의 Offline Mode를 사용하려면 Docker container를 사용해야 합니다.
{% endhint %}

Roboflow Enterprise 고객은 기기 내 inference server인 Roboflow Inference를 구성하여 최대 30일 동안 weights를 캐시할 수 있습니다.

이를 통해 모델을 완전히 air-gapped 환경에서 또는 인터넷 연결이 쉽게 उपलब्ध하지 않은 위치에서도 실행할 수 있습니다.

모델을 offline으로 실행하려면 다음이 필요합니다:

1. Docker volume을 생성하고 연결하여 `/tmp/cache` 당신의 Inference Server에서.
2. Docker로 Roboflow Inference server를 시작합니다.
3. server를 통해 모델에 요청을 보내면 모델 weight 다운로드 및 캐시 프로세스가 시작됩니다. 이 단계에서는 인터넷 연결이 필요합니다.

weights가 캐시되면 로컬에서 사용할 수 있습니다.

아래에서는 CPU부터 GPU까지 다양한 device type에서 모델을 offline으로 실행하는 방법을 안내합니다.

## CPU

이미지: [roboflow / roboflow-inference-server-cpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-cpu)

```bash
sudo docker volume create roboflow
sudo docker run --net=host --env LICENSE_SERVER=10.0.1.1 --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-cpu
```

## GPU

GPU container를 사용하려면 먼저 다음을 설치해야 합니다 [nvidia-container-runtime](https://github.com/NVIDIA/nvidia-container-runtime).

이미지:[ roboflow / roboflow-inference-server-gpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-gpu)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --gpus all --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-gpu
```

## Jetson 4.5

당신의 Jetson Jetpack 4.5에는 이미 다음이 포함되어 있습니다 <https://github.com/NVIDIA/nvidia-container-runtime> 가

이미지:[ roboflow/roboflow-inference-server-jetson-4.5.0](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.5.0)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.5.0
</strong></code></pre>

## Jetson 4.6

당신의 Jetson Jetpack 4.6에는 이미 다음이 포함되어 있습니다 <https://github.com/NVIDIA/nvidia-container-runtime> 가

이미지:[ roboflow/roboflow-inference-server-jetson-4.6.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.6.1/tags)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.6.1
</strong></code></pre>

## Jetson 5.1

당신의 Jetson Jetpack 5.1에는 이미 다음이 포함되어 있습니다 <https://github.com/NVIDIA/nvidia-container-runtime> 가

이미지: [roboflow/roboflow-inference-server-jetson-5.1.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-5.1.1)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-5.1.1
```

## Inference 실행

Inference server를 로컬 캐싱과 함께 설정하면 인터넷 연결 없이 이미지와 video frame에서 모델을 실행할 수 있습니다.

다음을 참조하세요 "[HTTP를 통해 이미지에서 예측하기](https://inference.roboflow.com/quickstart/run_model_on_image/)" Inference 문서에서 모델 실행 방법을 확인하세요.

## Inference 결과

weights는 인터넷을 통해 당신의 Roboflow account에서(설정해 두었다면 License Server를 통해) SSL 암호화로 로드되며, 최대 30일 동안 Docker volume에 안전하게 저장됩니다.

당신의 inference 결과에는 새로운 `만료` Internet 또는 License Server 연결을 통해 weights에 대한 사용권을 갱신하기 전까지 Inference Server가 예측을 계속 제공할 수 있는 기간을 확인하는 데 사용할 수 있는 키입니다. weights 만료일이 7일 미만으로 떨어지면, Inference Server는 Roboflow API와의 연결이 성공할 때까지 한 시간에 한 번씩 weights 사용권 갱신을 시도하기 시작합니다.

사용권이 갱신되면 카운터는 30일로 재설정됩니다.

```json
{
    "predictions": [
        {
            "x": 340.9,
            "y": 263.6,
            "width": 284,
            "height": 360,
            "class": "example",
            "confidence": 0.867
        }
    ],
    "expiration": {
        "value": 29.91251408564815,
        "unit": "days"
    }
}
```

{% hint style="info" %}
모델을 offline으로 배포하는 것에 대해 궁금한 점이 있으면 Roboflow 담당자에게 문의하여 안내를 받으세요.
{% endhint %}