> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/roboflow/roboflow-hi/deploy/enterprise-deployment/offline-mode.md).

# Offline Mode

{% hint style="info" %}
Roboflow Enterprise ग्राहकों के लिए Offline Mode का उपयोग करने हेतु आवश्यक है कि आप हमारा Docker container उपयोग करें।
{% endhint %}

Roboflow Enterprise ग्राहक Roboflow Inference, हमारे on-device inference server, को इस तरह configure कर सकते हैं कि वह weights को 30 दिनों तक cache करे।

इससे आपका model पूरी तरह air-gapped या उन स्थानों पर चल सकता है जहाँ Internet connection आसानी से उपलब्ध नहीं है।

अपने model को offline चलाने के लिए, आपको यह करना होगा:

1. एक Docker volume बनाएं और इसे जोड़ें `/tmp/cache` अपने Inference Server पर।
2. Docker के साथ एक Roboflow Inference server शुरू करें।
3. अपने model के लिए server के माध्यम से एक request करें, जो model weight download और cache process शुरू करेगा। इस चरण के लिए आपको internet connection की आवश्यकता होगी।

एक बार आपके weights cache हो जाने पर, आप उन्हें locally उपयोग कर सकते हैं।

नीचे, हम विभिन्न device types पर, CPU से GPU तक, अपने model को offline चलाने के निर्देश प्रदान करते हैं।

## CPU

Image: [roboflow / roboflow-inference-server-cpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-cpu)

```bash
sudo docker volume create roboflow
sudo docker run --net=host --env LICENSE_SERVER=10.0.1.1 --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-cpu
```

## GPU

GPU container का उपयोग करने के लिए, आपको पहले install करना होगा [nvidia-container-runtime](https://github.com/NVIDIA/nvidia-container-runtime).

Image:[ roboflow / roboflow-inference-server-gpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-gpu)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --gpus all --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-gpu
```

## Jetson 4.5

आपके Jetson Jetpack 4.5 में पहले से ही होगा <https://github.com/NVIDIA/nvidia-container-runtime> इंस्टॉल हैं।

Image:[ roboflow/roboflow-inference-server-jetson-4.5.0](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.5.0)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.5.0
</strong></code></pre>

## Jetson 4.6

आपके Jetson Jetpack 4.6 में पहले से ही होगा <https://github.com/NVIDIA/nvidia-container-runtime> इंस्टॉल हैं।

Image:[ roboflow/roboflow-inference-server-jetson-4.6.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.6.1/tags)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.6.1
</strong></code></pre>

## Jetson 5.1

आपके Jetson Jetpack 5.1 में पहले से ही होगा <https://github.com/NVIDIA/nvidia-container-runtime> इंस्टॉल हैं।

Image: [roboflow/roboflow-inference-server-jetson-5.1.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-5.1.1)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-5.1.1
```

## Inference चलाना

अपने Inference server को local caching के साथ सेट up करने के बाद, आप internet connection के बिना images और video frames पर अपना model चला सकते हैं।

देखें "[HTTP के माध्यम से एक Image पर Predict करें](https://inference.roboflow.com/quickstart/run_model_on_image/)" Inference documentation में इस बारे में मार्गदर्शन देखें कि अपना model कैसे चलाना है।

## Inference Results

weights आपके Roboflow account से Internet के माध्यम से (यदि आपने इसे configure किया है तो License Server के जरिए) SSL encryption के साथ लोड किए जाएंगे और Docker volume में 30 दिनों तक सुरक्षित रूप से संग्रहीत किए जाएंगे।

आपके inference results में एक नया `समाप्ति` key शामिल होगी, जिसका उपयोग आप यह निर्धारित करने के लिए कर सकते हैं कि Inference Server weights के लिए अपने lease को Internet या License Server connection के माध्यम से नवीनीकृत करने से पहले कितने समय तक predictions प्रदान करना जारी रख सकता है। जब weight expiration date 7 दिनों से नीचे आ जाती है, तो Inference Server Roboflow API से सफलतापूर्वक connection बन जाने तक प्रति घंटे एक बार weights के lease को नवीनीकृत करने का प्रयास शुरू कर देगा।

जैसे ही lease नवीनीकृत हो जाएगा, counter फिर से 30 दिनों पर reset हो जाएगा।

```json
{
    "predictions": [
        {
            "x": 340.9,
            "y": 263.6,
            "width": 284,
            "height": 360,
            "class": "example",
            "confidence": 0.867
        }
    ],
    "expiration": {
        "value": 29.91251408564815,
        "unit": "दिन"
    }
}
```

{% hint style="info" %}
यदि आपके model को offline deploy करने के बारे में प्रश्न हैं, तो मार्गदर्शन के लिए अपने Roboflow representative से संपर्क करें।
{% endhint %}