# Offline Mode

{% hint style="info" %}
Roboflow Enterprise ग्राहकों के लिए Offline Mode का उपयोग करने हेतु आवश्यक है कि आप हमारा Docker container उपयोग करें।
{% endhint %}

Roboflow Enterprise ग्राहक Roboflow Inference, हमारे on-device inference server, को इस तरह configure कर सकते हैं कि वह weights को 30 दिनों तक cache करे।

यह आपके model को पूरी तरह air-gapped या ऐसी जगहों पर चलाने की अनुमति देता है जहाँ Internet connection आसानी से उपलब्ध नहीं होता।

अपने model को offline चलाने के लिए, आपको यह करना होगा:

1. एक Docker volume बनाएं और उसे attach करें `/tmp/cache` अपने Inference Server पर।
2. Docker के साथ एक Roboflow Inference server शुरू करें।
3. अपने model के लिए server के माध्यम से एक request करें, जिससे model weight download और cache process शुरू हो जाएगी। इस चरण के लिए आपको internet connection की आवश्यकता होगी।

एक बार आपके weights cache हो जाने के बाद, आप उन्हें locally उपयोग कर सकते हैं।

नीचे, हम CPU से लेकर GPU तक, विभिन्न device types पर आपके model को offline चलाने के निर्देश प्रदान करते हैं।

## CPU

Image: [roboflow / roboflow-inference-server-cpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-cpu)

```bash
sudo docker volume create roboflow
sudo docker run --net=host --env LICENSE_SERVER=10.0.1.1 --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-cpu
```

## GPU

GPU container का उपयोग करने के लिए, आपको पहले यह install करना होगा [nvidia-container-runtime](https://github.com/NVIDIA/nvidia-container-runtime).

Image:[ roboflow / roboflow-inference-server-gpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-gpu)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --gpus all --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-gpu
```

## Jetson 4.5

आपके Jetson Jetpack 4.5 में पहले से ही <https://github.com/NVIDIA/nvidia-container-runtime> installed होगा।

Image:[ roboflow/roboflow-inference-server-jetson-4.5.0](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.5.0)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.5.0
</strong></code></pre>

## Jetson 4.6

आपके Jetson Jetpack 4.6 में पहले से ही <https://github.com/NVIDIA/nvidia-container-runtime> installed होगा।

Image:[ roboflow/roboflow-inference-server-jetson-4.6.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.6.1/tags)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.6.1
</strong></code></pre>

## Jetson 5.1

आपके Jetson Jetpack 5.1 में पहले से ही <https://github.com/NVIDIA/nvidia-container-runtime> installed होगा।

Image: [roboflow/roboflow-inference-server-jetson-5.1.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-5.1.1)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-5.1.1
```

## Inference चलाना

अपने Inference server को local caching के साथ सेट up करने के बाद, आप अपने model को images और video frames पर internet connection के बिना चला सकते हैं।

"[Predict on an Image Over HTTP](https://inference.roboflow.com/quickstart/run_model_on_image/)" Inference documentation को देखें ताकि यह जान सकें कि अपने model को कैसे चलाना है।

## Inference Results

weights आपके Roboflow account से Internet के माध्यम से (यदि आपने इसे configure किया है तो License Server के जरिए) SSL encryption के साथ load किए जाएंगे और Docker volume में 30 दिनों तक सुरक्षित रूप से stored रहेंगे।

आपके inference results में एक नया `expiration` key होगा, जिसका उपयोग आप यह निर्धारित करने के लिए कर सकते हैं कि Inference Server weights पर अपनी lease को Internet या License Server connection के माध्यम से renew करने से पहले कितने समय तक predictions प्रदान करना जारी रख सकता है। जब weight expiration date 7 दिनों से नीचे आ जाती है, तो Inference Server Roboflow API से connection सफल होने तक प्रति घंटे एक बार weights की lease renew करने का प्रयास करना शुरू कर देगा।

एक बार lease renew हो जाने पर, counter 30 दिनों पर reset हो जाएगा।

```json
{
    "predictions": [
        {
            "x": 340.9,
            "y": 263.6,
            "width": 284,
            "height": 360,
            "class": "example",
            "confidence": 0.867
        }
    ],
    "expiration": {
        "value": 29.91251408564815,
        "unit": "days"
    }
}
```

{% hint style="info" %}
यदि आपके पास अपने model को offline deploy करने के बारे में प्रश्न हैं, तो मार्गदर्शन के लिए अपने Roboflow representative से संपर्क करें।
{% endhint %}