> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/offline-mode.md).

# ऑफ़लाइन मोड

कैश किए गए मॉडल और वर्कफ़्लो तैयार करें, TensorRT की तत्परता की पुष्टि करें, और ऑफ़लाइन रीस्टार्ट व पुनर्प्राप्ति का परीक्षण करें।

ऑफ़लाइन मोड, Roboflow से संपर्क किए बिना स्थानीय कैश से मॉडल और वर्कफ़्लो चलाने के लिए Roboflow Inference को सक्षम करता है। कनेक्ट रहते हुए कैश तैयार करें, फिर एयर-गैप्ड साइट पर डिप्लॉय करने से पहले इंटरनेट एक्सेस के बिना रीस्टार्ट करके जाँचें।

{% hint style="info" %}
ऑफ़लाइन मोड, Inference Docker कंटेनरों का उपयोग करने वाले Roboflow Enterprise ग्राहकों के लिए उपलब्ध है।
{% endhint %}

जाँचें कि हर वर्कफ़्लो चरण ऑफ़लाइन चल सकता है, जिसमें मॉडल और आउटपुट गंतव्य शामिल हैं। स्थानीय इमेज, वीडियो फ़ाइलों या आपके स्थानीय नेटवर्क के कैमरों से परीक्षण करें। रिमोट प्रबंधन और निगरानी के लिए Deployment Manager को अब भी कनेक्टिविटी चाहिए; इसकी ऑफ़लाइन मोड सेटिंग इन्फ़रेंस सेवा पर लागू होती है।

## वेब ऐप

अपना डिवाइस [Deployment Manager](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/deployment-manager.md) में ऑनलाइन रहते हुए तैयार करें। [ऑफ़लाइन संचालन के लिए डिवाइस तैयार करें](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/deployment-manager/setting-up/prepare-a-device-for-offline-operation.md) कंटेनर डाउनलोड पूरे करने और नेटवर्किंग तथा कैमरे सेट अप करने के लिए निर्देशों का पालन करें। कैश तैयार करते समय "Offline Mode" बंद रखें।

### वर्कफ़्लो पिन करें

1. डिवाइस का "Streams" टैब खोलें और "Workflows" तक स्क्रॉल करें।
2. "Add Workflow" पर क्लिक करें, वर्कफ़्लो चुनें और "Save" पर क्लिक करें। डिवाइस इसका नवीनतम प्रकाशित संस्करण और पहचान सकने वाले मॉडल डाउनलोड करता है। पिन करने से वर्कफ़्लो कैश में बना रहता है, भले ही कोई स्ट्रीम उसका उपयोग न कर रही हो।
3. डिवाइस द्वारा बदलाव लागू किए जाने तक प्रतीक्षा करें। कॉन्फ़िगरेशन अनुमोदन सक्षम वाले प्रोडक्शन डिवाइसों पर, पिन अनुमोदन की प्रतीक्षा में हो सकते हैं।

"May Need Internet" के रूप में चिह्नित वर्कफ़्लो रनटाइम पर कुछ मॉडल चुनता है, इसलिए हो सकता है कि उसकी कैश रिपोर्ट में वे सभी सूचीबद्ध न हों। हर संभावित चयन के साथ वर्कफ़्लो को ऑनलाइन चलाएँ, ताकि डिवाइस वे मॉडल डाउनलोड कर ले। बिना वर्कफ़्लो के सीधे चलाए जाने वाले मॉडल भी ऑनलाइन चलाएँ। नीचे दिए गए डिस्कनेक्टेड रीस्टार्ट परीक्षण में हर मॉडल की पुष्टि करें।

### कैश की पूर्णता जाँचें

बदलावों के बाद "Reported" टाइमस्टैम्प अपडेट होने तक प्रतीक्षा करें। इससे पुष्टि होती है कि आप हाल की कैश रिपोर्ट देख रहे हैं। "Cached" कॉलम दिखाता है कि वर्कफ़्लो परिभाषा कब सहेजी गई थी।

हर ज़रूरी आइटम जाँचें:

* पुष्टि करें कि वर्कफ़्लो का "Version" उस संस्करण से मेल खाता है जिसे आप चलाना चाहते हैं। "Latest" का अर्थ है डिवाइस द्वारा प्राप्त किया गया अंतिम प्रकाशित संस्करण।
* "Waiting for Device" हटने तक प्रतीक्षा करें और "Not Cached" स्थिति या कैश की किसी भी त्रुटि का समाधान करें।
* मॉडल ID देखने के लिए "Models" कॉलम में हर संख्या पर कर्सर ले जाएँ। हर "Not cached" प्रविष्टि का समाधान करें। केवल वर्कफ़्लो परिभाषा कैश में होने का यह अर्थ नहीं कि उसके मॉडल भी कैश में हैं।
* रनटाइम पर चुने जाने वाले हर मॉडल का परीक्षण करें। "Selected when run" से यह पुष्टि नहीं होती कि वे मॉडल मौजूद हैं।

सभी ज़रूरी मॉडल और इंजन के लिए पर्याप्त डिस्क स्थान और कैश क्षमता रखें। कैश आकार की सीमाओं के कारण मॉडल फ़ाइलें हट सकती हैं। उन्हें दोबारा डाउनलोड करने के लिए डिवाइस को कनेक्टिविटी चाहिए, भले ही उसका वर्कफ़्लो पिन किया गया हो।

### TensorRT की तैयारी जाँचें

यदि आपका डिप्लॉयमेंट TensorRT का उपयोग करता है, तो ऑफ़लाइन इस्तेमाल की जाने वाली इन्फ़रेंस इंजन सेटिंग के साथ लक्ष्य डिवाइस पर हर मॉडल और वर्कफ़्लो ऑनलाइन चलाएँ। कंपाइलेशन पूरा होने तक प्रतीक्षा करें; पहली बार चलाने पर इसमें कई मिनट लग सकते हैं।

"Workflows" में हर मॉडल की जाँच के लिए "TensorRT" मान पर कर्सर ले जाएँ:

* "Built": इंजन स्थिति रिपोर्ट करने वाले सभी कैश किए गए मॉडलों की इंजन फ़ाइलें मौजूद हैं।
* "N of M Built": उन मॉडलों में से केवल कुछ की इंजन फ़ाइलें मौजूद हैं।
* `--`: इंजन स्थिति उपलब्ध नहीं है। परीक्षण चलाकर और लॉग देखकर मॉडल जाँचें।

गुम मॉडल TensorRT की गिनती में शामिल नहीं होते, इसलिए पहले कैश की पूर्णता जाँचें। डिस्कनेक्टेड रीस्टार्ट परीक्षण पुष्टि करता है कि इंजन आपके डिवाइस पर लोड होते हैं।

### ऑफ़लाइन मोड सक्षम करें

डिवाइस का "Configuration" टैब खोलें, "Offline Mode" चालू करें और बदलाव सहेजें। [डिवाइस कॉन्फ़िगरेशन अपडेट करें](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/deployment-manager/making-changes/update-device-configuration.md) अनुमोदन और रखरखाव विंडो के व्यवहार के लिए निर्देशों का पालन करें। यह सेटिंग इन्फ़रेंस सेवा रीस्टार्ट होने पर लागू होती है।

पुष्टि करें कि डिवाइस पर "Offline Mode" दिख रहा है, फिर [डिस्कनेक्टेड रीस्टार्ट परीक्षण](#test-a-disconnected-restart)पूरा करें। ऑफ़लाइन मोड चालू रहने पर प्रकाशित वर्कफ़्लो बदलाव और नए मॉडल संस्करण इन्फ़रेंस तक नहीं पहुँचते।

## CLI

स्व-प्रबंधित कंटेनर के लिए, पूरे मॉडल कैश को स्थायी वॉल्यूम में रखें। अपने हार्डवेयर के लिए इमेज, [Linux](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/install/linux.md) या [Jetson](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/install/jetson.md) इंस्टॉलेशन गाइड से चुनें। तैयारी और ऑफ़लाइन परीक्षण के लिए समान इमेज संस्करण, डिवाइस, कैश पथ और इंजन सेटिंग का उपयोग करें।

### कैश भरें

इस CPU उदाहरण में डिफ़ॉल्ट `MODEL_CACHE_DIR`, `/tmp/cache`स्थान पर नामित Docker वॉल्यूम का उपयोग किया गया है। `<version>` को उस इमेज संस्करण से बदलें जिसे आप डिप्लॉय करने की योजना बना रहे हैं।

```bash
export INFERENCE_IMAGE="roboflow/roboflow-inference-server-cpu:<version>"
docker volume create roboflow
docker run -d --name inference-server \
  -p 127.0.0.1:9001:9001 \
  --mount source=roboflow,target=/tmp/cache \
  -e USE_FILE_CACHE_FOR_WORKFLOWS_DEFINITIONS=True \
  "$INFERENCE_IMAGE"
```

कनेक्ट रहते हुए, [हर मॉडल चलाएँ](https://docs.roboflow.com/deployment/hi/self-hosted/self-hosted.md#run-inference) और [Workflow](https://docs.roboflow.com/workflows/deploy/deploy-a-workflow) इस लोकल सर्वर पर। वही API key, Workspace, Workflow और अनुरोधित Workflow संस्करण इस्तेमाल करें, जिन्हें आपका एप्लिकेशन ऑफ़लाइन होने पर इस्तेमाल करेगा। रनटाइम पर चुने गए हर मॉडल को लोकल टेस्ट इनपुट के साथ चलाएँ।

TensorRT के लिए, लक्षित हार्डवेयर पर सभी आवश्यक मॉडल चलाएँ और संकलन पूरा होने तक प्रतीक्षा करें। यदि `TENSORRT_CACHE_PATH` , इससे बाहर है `MODEL_CACHE_DIR`, तो वहाँ भी एक स्थायी वॉल्यूम माउंट करें। देखें [कैश कॉन्फ़िगरेशन](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/docker-configuration.md#model-cache).

### ऑफ़लाइन मोड में पुनः आरंभ करें

समीक्षा करें [रनटाइम प्राधिकरण](#runtime-authorization), फिर कंटेनर को दोबारा बनाएँ और इसमें `OFFLINE_MODE=True` और वही वॉल्यूम रखें। ऑनलाइन रन के GPU फ़्लैग, इंजन सेटिंग, क्रेडेंशियल और अन्य डिप्लॉयमेंट विकल्प बनाए रखें।

```bash
docker stop inference-server
docker rm inference-server
docker run -d --name inference-server \
  -p 127.0.0.1:9001:9001 \
  --mount source=roboflow,target=/tmp/cache \
  -e USE_FILE_CACHE_FOR_WORKFLOWS_DEFINITIONS=True \
  -e OFFLINE_MODE=True \
  "$INFERENCE_IMAGE"
```

सिर्फ़ Docker को रीस्टार्ट करने से पर्यावरण वैरिएबल नहीं बदलते। कंटेनर हटाते समय कैश वॉल्यूम बनाए रखें और [डिस्कनेक्टेड रीस्टार्ट परीक्षण](#test-a-disconnected-restart).

## डिस्कनेक्टेड रीस्टार्ट का परीक्षण करें

इस परीक्षण का उपयोग प्रबंधित डिवाइसों और स्वयं-प्रबंधित कंटेनरों, दोनों के लिए करें। लॉग और नियंत्रणों तक लोकल पहुँच बनाए रखें, ताकि Deployment Manager के बिना भी आप समस्या से उबर सकें।

1. ऑनलाइन रहते हुए, सफल रन से अपेक्षित Workflow संस्करण, मॉडल ID, आउटपुट और स्टार्टअप समय दर्ज करें। Offline Mode चालू करें और पुष्टि करें कि इस सेटिंग के साथ इन्फ़रेंस शुरू होता है।
2. इंटरनेट कनेक्शन काट दें, लेकिन आवश्यक लोकल कैमरों, क्लाइंटों और आउटपुट गंतव्यों तक पहुँच बनाए रखें।
3. नेटवर्क डिस्कनेक्ट रहने पर इन्फ़रेंस सेवा को रीस्टार्ट करें। स्वयं-प्रबंधित कंटेनर के लिए, इसका उपयोग करें `docker restart inference-server`। यदि डिप्लॉयमेंट को डिवाइस रीबूट के बाद भी काम करना चाहिए, तो उसका भी परीक्षण करें। इससे पुष्टि होती है कि इन्फ़रेंस डिस्क से कैश लोड कर सकता है।
4. रनटाइम पर चुने गए हर मॉडल सहित, प्रत्येक आवश्यक मॉडल और Workflow चलाएँ। अपेक्षित आउटपुट, लोकल इंटीग्रेशन, स्टार्टअप समय और थ्रूपुट की पुष्टि करें। अनुपलब्ध फ़ाइलों, विफल डाउनलोड और इंजन लोड या संकलन संबंधी त्रुटियों के लिए लोकल लॉग देखें।

ONNX Runtime के ज़रिए TensorRT का उपयोग करने पर, Offline Mode इंजन फ़ाइलों की कैशिंग बंद कर देता है और संभव है कि इंजन मेमोरी में संकलित हों। डिस्कनेक्टेड रीस्टार्ट के बाद स्टार्टअप समय और थ्रूपुट जाँचें, भले ही ऑनलाइन रिपोर्ट में "Built" दिखे।

यदि परीक्षण विफल हो, तो कनेक्टिविटी बहाल करें, Offline Mode बंद करें, त्रुटियों को ठीक करें और प्रभावित मॉडल तथा Workflows को फिर से चलाएँ। डिप्लॉयमेंट से पहले डिस्कनेक्टेड परीक्षण दोहराएँ।

## रिकवरी का परीक्षण करें

1. कनेक्टिविटी बहाल करें। यदि आप Deployment Manager का उपयोग करते हैं, तो पुष्टि करें कि वह फिर से कनेक्ट हो गया है। जब तक आप इसकी सेटिंग नहीं बदलते, इन्फ़रेंस Offline Mode में ही रहेगा।
2. "Offline Mode" बंद करें और बदलाव लागू करें, या स्वयं-प्रबंधित कंटेनर को इस सेटिंग के साथ फिर से बनाएँ `OFFLINE_MODE=False`। वही कैश वॉल्यूम बनाए रखें। पुष्टि करें कि इन्फ़रेंस रीस्टार्ट होता है और इच्छित प्रकाशित Workflow तथा मॉडल संस्करण फ़ेच कर सकता है।
3. वर्कलोड फिर से चलाएँ और लॉग तथा आउटपुट जाँचें। प्रबंधित डिवाइसों पर, नई कैश रिपोर्ट आने तक प्रतीक्षा करें और Offline Mode फिर से चालू करने से पहले मॉडल तथा TensorRT की स्थिति दोबारा जाँचें।

मॉडल चयन, Workflows, कंटेनर इमेज, हार्डवेयर, इंजन सेटिंग या कैश पथ और सीमाओं में बदलाव के बाद तैयारी का परीक्षण दोहराएँ।

## API आउटेज के दौरान कैश से फ़ॉलबैक

Offline Mode बंद होने पर भी Inference, Roboflow से संपर्क करता है। Inference 1.8.4 या नए संस्करण में, कनेक्शन विफल होने, टाइमआउट होने या HTTP 5xx त्रुटि मिलने पर पहले से कैश की गई परिभाषा इस्तेमाल की जा सकती है, यदि `USE_FILE_CACHE_FOR_WORKFLOWS_DEFINITIONS=True` (डिफ़ॉल्ट) हो। प्रविष्टि का API key, Workspace, Workflow और अनुरोधित संस्करण से मेल खाना आवश्यक है।

यह फ़ॉलबैक प्राधिकरण संबंधी त्रुटियों, अनुपलब्ध Workflows, HTTP 429 प्रतिक्रियाओं या कैश प्रविष्टि न होने की स्थिति में काम नहीं करता। इससे केवल Workflow की परिभाषा रिकवर होती है; मॉडल लोड होना और रिमोट सेवाओं की आवश्यकता वाले चरण फिर भी विफल हो सकते हैं।

इसे जानबूझकर Offline Mode से अलग करके जाँचें: छोड़ें `OFFLINE_MODE=False`, ऑनलाइन रहते हुए आपके एप्लिकेशन द्वारा उपयोग किए जाने वाले सटीक अनुरोध चलाएँ, API कनेक्टिविटी बाधित करें और वर्कलोड को फिर से शुरू करें। पुष्टि करें कि Workflow कैश से लोड होता है, फिर कनेक्शन बहाल करें और सत्यापित करें कि API अनुरोध सफल होते हैं।

## रनटाइम प्राधिकरण

Offline Mode में ऑनलाइन Workspace या प्रति-मॉडल API कुंजी की जाँच नहीं की जा सकती। यदि `MODELS_CACHE_AUTH_ENABLED=True`, तो स्टार्टअप के लिए यह भी आवश्यक है: `ALLOW_OFFLINE_MODEL_CACHE_AUTH_BYPASS=True` विश्वसनीय, एकल-टेनेंट उपयोग के लिए। Offline Mode चालू करने से पहले [ऑफ़लाइन प्राधिकरण](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/model-security.md#offline-authorization) और [ऑफ़लाइन कस्टम Python](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/security-migration.md#offline-custom-python) की समीक्षा करें।
