> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/offline-mode.md).

# ऑफ़लाइन मोड

Roboflow Enterprise ग्राहक models को offline डिप्लॉय कर सकते हैं।

{% hint style="info" %}
Roboflow Enterprise ग्राहकों के लिए Offline Mode का उपयोग करने हेतु हमारे Docker container का उपयोग करना आवश्यक है।
{% endhint %}

Roboflow Enterprise ग्राहक Roboflow Inference, हमारे on-device inference server, को इस तरह कॉन्फ़िगर कर सकते हैं कि वह weights को 30 दिनों तक cache करे।

इससे आपका model पूरी तरह air-gapped वातावरण में या उन स्थानों पर चल सकता है जहाँ Internet connection आसानी से उपलब्ध नहीं है।

अपने model को offline चलाने के लिए, आपको यह करना होगा:

1. एक Docker volume बनाएं और उसे attach करें `/tmp/cache` अपने Inference Server पर।
2. Docker के साथ Roboflow Inference server शुरू करें।
3. सर्वर के माध्यम से अपने model के लिए एक request करें, जिससे model weight download और cache प्रक्रिया शुरू हो जाएगी। इस चरण के लिए आपको इंटरनेट connection की आवश्यकता होगी।

एक बार आपके weights cache हो जाने पर, आप उन्हें स्थानीय रूप से उपयोग कर सकते हैं।

नीचे, हम बताते हैं कि CPU से लेकर GPU तक, विभिन्न device प्रकारों पर अपने model को offline कैसे चलाया जाए।

## रनटाइम प्राधिकरण

जब आप स्पष्ट रूप से सक्षम करते हैं `OFFLINE_MODE=True`, तो ऑनलाइन Workspace प्रमाणीकरण उपलब्ध नहीं होता। Model cache प्राधिकरण के लिए अलग `ALLOW_OFFLINE_MODEL_CACHE_AUTH_BYPASS=True` विश्वसनीय single-tenant उपयोग के लिए opt-in आवश्यक है; देखें [ALLOW\_INFERENCE\_MODELS\_UNTRUSTED\_PACKAGES](/deployment/hi/self-hosted/inference-server/configuration/model-security.md#offline-authorization).

लंबित runtime-hardening build अस्वीकार करती है `WORKFLOWS_CUSTOM_PYTHON_EXECUTION_MODE=modal` ऑफ़लाइन मोड में, बजाय इसके कि यह चुपचाप स्थानीय रूप से निष्पादित हो। देखें [सुरक्षा कॉन्फ़िगरेशन माइग्रेशन](/deployment/hi/self-hosted/inference-server/configuration/security-migration.md#offline-custom-python) उस संयोजन को अपग्रेड करने से पहले।

## CPU

छवि: [roboflow / roboflow-inference-server-cpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-cpu)

```bash
sudo docker volume create roboflow
sudo docker run -p 127.0.0.1:9001:9001 --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-cpu
```

यदि आपकी deployment एक Secure Gateway का उपयोग करती है, तो उसके explicit HTTPS URL और certificate trust को कॉन्फ़िगर करने के लिए [Inference Servers को कनेक्ट करना](/deployment/hi/self-hosted/enterprise/secure-gateway.md#connecting-inference-servers).

## GPU

GPU container का उपयोग करने के लिए, आपको पहले install करना होगा [nvidia-container-runtime](https://github.com/NVIDIA/nvidia-container-runtime).

छवि:[ roboflow / roboflow-inference-server-gpu](https://hub.docker.com/r/roboflow/roboflow-inference-server-gpu)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --gpus all --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-gpu
```

## Jetson 4.5

आपके Jetson Jetpack 4.5 में पहले से होगा <https://github.com/NVIDIA/nvidia-container-runtime> इंस्टॉल्ड.

छवि:[ roboflow/roboflow-inference-server-jetson-4.5.0](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.5.0)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.5.0
</strong></code></pre>

## Jetson 4.6

आपके Jetson Jetpack 4.6 में पहले से होगा <https://github.com/NVIDIA/nvidia-container-runtime> इंस्टॉल्ड.

छवि:[ roboflow/roboflow-inference-server-jetson-4.6.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-4.6.1/tags)

<pre class="language-bash"><code class="lang-bash">sudo docker volume create roboflow
<strong>docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.6.1
</strong></code></pre>

## Jetson 5.1

आपके Jetson Jetpack 5.1 में पहले से होगा <https://github.com/NVIDIA/nvidia-container-runtime> इंस्टॉल्ड.

छवि: [roboflow/roboflow-inference-server-jetson-5.1.1](https://hub.docker.com/r/roboflow/roboflow-inference-server-jetson-5.1.1)

```bash
sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-5.1.1
```

## Inference चलाना

अपने Inference server को local caching के साथ सेट up करने के बाद, आप इंटरनेट connection के बिना images और video frames पर अपने model को चला सकते हैं।

env.py [एक मॉडल चलाएँ](/deployment/hi/self-hosted/self-hosted.md#run-model-locally) अपने model को कैसे चलाया जाए, इस बारे में मार्गदर्शन के लिए।

## Inference परिणाम

weights आपके Roboflow खाते से इंटरनेट के माध्यम से (यदि आपने इसे कॉन्फ़िगर किया है तो License Server के माध्यम से) SSL encryption के साथ लोड किए जाएंगे और Docker volume में 30 दिनों तक सुरक्षित रूप से संग्रहीत किए जाएंगे।

आपके inference results में एक नया `समाप्ति` key होगी, जिसका उपयोग आप यह निर्धारित करने के लिए कर सकते हैं कि Internet या License Server connection के माध्यम से weights का lease नवीनीकृत करने से पहले Inference Server कितने समय तक predictions देना जारी रख सकता है। जैसे ही weight expiration date 7 दिनों से नीचे जाती है, Inference Server Roboflow API से connection सफल होने तक घंटे में एक बार weights का lease नवीनीकृत करने का प्रयास शुरू कर देगा।

जैसे ही lease नवीनीकृत हो जाता है, काउंटर 30 दिनों पर रीसेट हो जाएगा।

```json
{
    "predictions": [
        {
            "x": 340.9,
            "y": 263.6,
            "width": 284,
            "height": 360,
            "class": "example",
            "confidence": 0.867
        }
    ],
    "expiration": {
        "value": 29.91251408564815,
        "unit": "days"
    }
}
```

{% hint style="info" %}
यदि आपके model को offline deploy करने के बारे में आपके कोई प्रश्न हों, तो मार्गदर्शन के लिए अपने Roboflow प्रतिनिधि से संपर्क करें।
{% endhint %}