> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/docker-configuration.md).

# Docker कॉन्फ़िगरेशन विकल्प

self-hosted Roboflow Inference container कॉन्फ़िगर करें - networking, CORS, NMS defaults, model cache, workers, HTTPS, और Secure Gateway।

इन्फ़रेंस सर्वर में कई कॉन्फ़िगर किए जा सकने वाले पैरामीटर होते हैं, जिन्हें आप एनवायरनमेंट वेरिएबल से सेट करते हैं। `docker run`के साथ एनवायरनमेंट वेरिएबल सेट करने के लिए, `-e` फ़्लैग का उपयोग करें:

```bash
docker run -it --rm -e ENV_VAR_NAME=env_var_value -p 127.0.0.1:9001:9001 --gpus all roboflow/roboflow-inference-server-gpu:latest
```

इस पेज पर उन विकल्पों के बारे में बताया गया है जिन्हें बदलने की आपको सबसे अधिक संभावना है। पूरी सूची के लिए देखें [एनवायरनमेंट वेरिएबल](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/environment-variables.md).

## नेटवर्किंग

`HOST`: स्ट्रिंग (डिफ़ॉल्ट `0.0.0.0`)। यह कंटेनर के भीतर इंटरफ़ेस चुनता है; Docker ब्रिज नेटवर्किंग के लिए इस मान को वैसा ही रखें, ताकि प्रकाशित पोर्ट सर्वर तक पहुँच सकें।

स्थानीय पहुँच तक सीमित रखने के लिए होस्ट-साइड मैपिंग `-p 127.0.0.1:9001:9001` का उपयोग करें, या जान-बूझकर कोई LAN इंटरफ़ेस चुनें। CLI का `--bind-address` इस मैपिंग को नियंत्रित करता है; macOS और Windows डेस्कटॉप बंडल इसके बजाय `HOST`का उपयोग करते हैं, जिसका डिफ़ॉल्ट मान `127.0.0.1`है। देखें [नेटवर्क पहुँच](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/security.md#restrict-network-access) Jetson और टनल से जुड़े अपवादों के लिए।

**`PORT`**: पूर्णांक (डिफ़ॉल्ट `9001`)। HTTP इंटरफ़ेस के लिए इस्तेमाल होने वाला पोर्ट सेट करता है।

**`ALLOW_ORIGINS`**: स्ट्रिंग (डिफ़ॉल्ट `*`)। यह HTTP इंटरफ़ेस के लिए FastAPI के साथ इस्तेमाल होने वाले CORS मिडलवेयर की `allow_origins` प्रॉपर्टी सेट करता है। कई मान कॉमा से अलग करके दिए जा सकते हैं, उदाहरण के लिए `ALLOW_ORIGINS=orig1.com,orig2.com`.

## इन्फ़रेंस का व्यवहार

**`CLASS_AGNOSTIC_NMS`**: बूलियन (डिफ़ॉल्ट `False`)। डिटेक्शन मॉडल (ऑब्जेक्ट डिटेक्शन, इंस्टेंस सेगमेंटेशन और इसी तरह के मॉडल) के लिए डिफ़ॉल्ट नॉन-मैक्सिमम सप्रेशन (NMS) व्यवहार सेट करता है। जब `True`होता है, तो NMS क्लास-अज्ञेय होता है, इसलिए IoU थ्रेशोल्ड के आधार पर अलग-अलग क्लासों के ओवरलैप करने वाले डिटेक्शन हटाए जा सकते हैं। जब `False`होता है, तो हटाने के लिए केवल एक ही क्लास के ओवरलैप करने वाले डिटेक्शन पर विचार किया जाता है।

**`MAX_CANDIDATES`**: पूर्णांक (डिफ़ॉल्ट `3000`)। डिटेक्शन के लिए उम्मीदवारों की अधिकतम संख्या।

**`MAX_DETECTIONS`**: पूर्णांक (डिफ़ॉल्ट `300`)। किसी मॉडल द्वारा लौटाए जाने वाले डिटेक्शन की अधिकतम संख्या।

**`FIX_BATCH_SIZE`**: बूलियन (डिफ़ॉल्ट `False`)। जब `True`, बैच का आकार इस सर्वर के लिए कॉन्फ़िगर किए गए अधिकतम बैच आकार पर तय होता है।

**`MAX_ACTIVE_MODELS`**: पूर्णांक (डिफ़ॉल्ट `8`)। एक समय में आंतरिक मॉडल मैनेजर द्वारा मेमोरी में रखे जाने वाले मॉडलों की अधिकतम संख्या। डिफ़ॉल्ट रूप से, नए मॉडल के लिए जगह बनाने हेतु मॉडल कतार सबसे कम हाल ही में एक्सेस किए गए मॉडल को हटा देती है।

**`NUM_WORKERS`**: पूर्णांक (डिफ़ॉल्ट `1`)। HTTP इंटरफ़ेस द्वारा उपयोग किए जाने वाले वर्करों की संख्या।

## CLIP मॉडल विकल्प

**`CLIP_VERSION_ID`**: स्ट्रिंग (डिफ़ॉल्ट `ViT-B-16`)। सभी `/clip` रूट द्वारा उपयोग किए जाने वाले OpenAI CLIP संस्करण को सेट करता है। उपलब्ध संस्करण हैं `RN101`, `RN50`, `RN50x16`, `RN50x4`, `RN50x64`, `ViT-B-16`, `ViT-B-32`, `ViT-L-14-336px`, और `ViT-L-14`.

**`CLIP_MAX_BATCH_SIZE`**: पूर्णांक (डिफ़ॉल्ट `8`)। CLIP मॉडल के इन्फ़रेंस फ़ंक्शन द्वारा स्वीकार किया जाने वाला अधिकतम बैच आकार सेट करता है।

## मॉडल कैश

**`MODEL_CACHE_DIR`**: स्ट्रिंग (डिफ़ॉल्ट `/tmp/cache`)। रूट मॉडल कैश डायरेक्टरी के लिए कंटेनर पथ सेट करता है।

**`TENSORRT_CACHE_PATH`**: स्ट्रिंग (डिफ़ॉल्ट: इसका मान `MODEL_CACHE_DIR`)। TensorRT कैश डायरेक्टरी का कंटेनर पथ सेट करता है। इस पथ को माउंट किए गए होस्ट वॉल्यूम के साथ सेट करने से TensorRT-आधारित सर्वरों का कोल्ड स्टार्ट समय कम हो जाता है।

### स्थायी मॉडल कैश

डिफ़ॉल्ट रूप से, मॉडल वेट कंटेनर के अंदर `/tmp/cache` में संग्रहीत होते हैं और **कंटेनर रीस्टार्ट होने या सिस्टम रीबूट होने पर मिट जाते हैं**। प्रोडक्शन डिप्लॉयमेंट के लिए, डाउनलोड किए गए वेट सुरक्षित रखने हेतु एक स्थायी होस्ट वॉल्यूम माउंट करें:

```bash
# होस्ट पर स्थायी कैश डायरेक्टरी बनाएँ
mkdir -p /var/lib/roboflow/cache

# स्थायी कैश के साथ कंटेनर चलाएँ
docker run -d \
  -p 127.0.0.1:9001:9001 \
  -v /var/lib/roboflow/cache:/tmp/cache \
  -e MODEL_CACHE_DIR=/tmp/cache \
  roboflow/roboflow-inference-server-cpu:latest
```

ध्यान रखने योग्य बातें:

* होस्ट पथ स्थायी स्टोरेज पर होना चाहिए, न कि `/tmp`.
* माउंट की गई डायरेक्टरी के लिए कंटेनर उपयोगकर्ता (आमतौर पर इमेज के आधार पर UID 1000 या root) को उपयुक्त अनुमतियाँ चाहिए।
* स्थायी कैश की मदद से आप डिप्लॉयमेंट से पहले वेट्स भर सकते हैं और कंटेनर अपडेट के दौरान उन्हें बनाए रख सकते हैं।

पहले से डाउनलोड करने और वेट्स को कैश करने के बारे में अधिक जानकारी के लिए देखें [ऑफ़लाइन वेट्स डाउनलोड](https://docs.roboflow.com/reference/inference/inference-python/offline-weights) ।

## HTTPS / TLS

**`ENABLE_HTTPS`**: बूलियन (डिफ़ॉल्ट `False`)। सेट होने पर, Inference Server HTTP के बजाय HTTPS पर ट्रैफ़िक उपलब्ध कराता है और प्रमाणपत्र तथा निजी कुंजी यहाँ से पढ़ता है: `SSL_CERTFILE` और `SSL_KEYFILE`.

**`SSL_CERTFILE`**: स्ट्रिंग (डिफ़ॉल्ट `/etc/inference/certs/server.crt`) और **`SSL_KEYFILE`**: स्ट्रिंग (डिफ़ॉल्ट `/etc/inference/certs/server.key`)। कंटेनर के भीतर PEM-एन्कोड किए गए प्रमाणपत्र और निजी कुंजी के पथ। डिफ़ॉल्ट पथ सुविधाजनक माउंट पॉइंट हैं, इसलिए आमतौर पर आपको बस अपना प्रमाणपत्र और कुंजी यहाँ माउंट करनी होती है: `/etc/inference/certs/` और यह सेट करना होता है: `ENABLE_HTTPS=true`.

`SSL_KEYFILE_PASSWORD`: स्ट्रिंग (वैकल्पिक)। Uvicorn लॉन्चर को एन्क्रिप्ट की गई निजी कुंजी का पासफ़्रेज़ देता है; समानांतर Gunicorn लॉन्चर इसका समर्थन नहीं करता।

`SSL_CA_CERTS`: स्ट्रिंग (वैकल्पिक)। HTTPS सक्षम होने पर mTLS के लिए क्लाइंट CA बंडल देता है। [HTTPS कॉन्फ़िगरेशन](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/https.md#mutual-tls) प्रवर्तन और रिलीज़ के दायरे के लिए देखें।

स्व-हस्ताक्षरित प्रमाणपत्रों के साथ पूरा चरण-दर-चरण विवरण: [HTTPS पर Inference उपलब्ध कराना](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/https.md).

## सुरक्षित गेटवे

**`SECURE_GATEWAY`**: स्ट्रिंग (डिफ़ॉल्ट: सेट नहीं)। एयर-गैप्ड डिप्लॉयमेंट के लिए [Roboflow Secure Gateway](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/secure-gateway.md) का पता सेट करता है। Roboflow API और मॉडल डाउनलोड का ट्रैफ़िक इस प्रॉक्सी से होकर भेजा जाता है। जिस ट्रैफ़िक को प्रॉक्सी से नहीं भेजा जा सकता, उसे अक्षम या इस प्रकार पुनर्निर्देशित किया जाता है:

* Inference का संस्करण जाँच (जो `api.github.com`को कॉल करती है) ज़बरन अक्षम की जाती है: `DISABLE_VERSION_CHECK` को `True` पर सेट किया जाता है, भले ही कॉन्फ़िगरेशन में स्पष्ट रूप से कोई दूसरी वैल्यू दी गई हो।
* यदि `WORKFLOWS_STEP_EXECUTION_MODE=remote` को `WORKFLOWS_REMOTE_API_TARGET=hosted`के साथ इस्तेमाल किया जाता है, तो स्टेप का निष्पादन `local` चेतावनी के साथ, क्योंकि होस्ट किए गए Roboflow inference endpoints तक gateway proxy के माध्यम से नहीं पहुँचा जा सकता। रिमोट निष्पादन जारी रखने के लिए, इसका उपयोग करें `WORKFLOWS_REMOTE_API_TARGET=self-hosted` **और** निर्देशित करें `LOCAL_INFERENCE_API_URL` (डिफ़ॉल्ट `http://127.0.0.1:9001`) को ऐसे Inference सर्वर पर, जो gateway की परिधि के भीतर पहुँच योग्य हो।
* तृतीय-पक्ष इंटिग्रेशन (Google Vision और Gemini के डायरेक्ट-की पथ, Stability AI, Twilio मीडिया अपलोड और बाहरी होस्ट को भेजे जाने वाले वेबहुक) प्रॉक्सी के माध्यम से नहीं जाते और तब तक विफल होंगे, जब तक gateway नेटवर्क उनकी अनुमति न दे।

एक स्पष्ट HTTPS gateway URL का उपयोग करें, जैसे `SECURE_GATEWAY=https://gateway.example.com`, और gateway प्रमाणपत्र पर भरोसा करें। Inference 1.6.0 और उसके बाद के संस्करण बिना स्कीम वाले पतों को HTTPS मानते हैं और लूपबैक के अलावा अन्य सादे-पाठ gateway को अस्वीकार करते हैं; देखें [माइग्रेशन का दायरा](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/security-migration.md#gateway-transport).

पुराना `LICENSE_SERVER` पर्यावरण चर अब भी स्वीकार किया जाता है, लेकिन यह अप्रचलित है।
