> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/secure-gateway.md).

# Secure Gateway

Secure Gateway उन routes को proxy करता है जिनकी Roboflow Deployment servers को आपकी कंपनी के DMZ में आवश्यकता होती है, और model weights तथा container images को स्थानीय रूप से cache करता है।

Secure Gateway, Roboflow API और आपके मॉडल के वेट के लिए एक प्रॉक्सी है, जिसका उपयोग तब होता है जब आप Roboflow Inference Server को फ़ायरवॉल से इंटरनेट से अलग रखते हैं। यह इसका उत्तराधिकारी है: [License Server](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/license-server.md) यह मॉडल वेट और कंटेनर इमेज की लोकल कैशिंग भी जोड़ता है, ताकि कई इनफ़रेंस सर्वर आउटबाउंड ट्रैफ़िक के लिए एक ही नियंत्रित निकास बिंदु साझा करें।

{% hint style="info" %}
इस पेज में आवश्यक जानकारी दी गई है। संपूर्ण कॉन्फ़िगरेशन और संचालन संबंधी संदर्भ के लिए देखें: [Secure Gateway मैनुअल](https://secure-gateway.roboflow.com/manual/).
{% endhint %}

## ज़रूरी शर्तें

* Docker Engine 20.10+ या Kubernetes v1.24+
* एक होस्ट जिसे api.roboflow\.com और repo.roboflow\.com तक पहुँच हो
* पोर्ट 80 उपलब्ध हो और TLS गेटवे के सामने स्थित लोड बैलेंसर पर या कंटेनर के अंदर टर्मिनेट हो
* 4GB या उससे अधिक मेमोरी
* कैश के लिए एक S3 बकेट या 50GB या उससे अधिक लोकल डिस्क स्पेस

{% hint style="info" %}
Red Hat Enterprise Linux पर डिप्लॉय कर रहे हैं? [Podman के साथ RHEL पर Secure Gateway](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/secure-gateway-podman.md) में Docker या Kubernetes के बिना RHEL होस्ट की जानकारी है, और [MicroShift पर Secure Gateway](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/secure-gateway-microshift.md) में MicroShift चलाने वाले Red Hat Device Edge होस्ट की जानकारी है। दोनों में एक ही एयर-गैप्ड बंडल मॉडल वाले समर्पित इंस्टॉलर का उपयोग होता है।
{% endhint %}

## Secure Gateway का उपयोग

ऐसी मशीन पर, जिसकी पहुँच `https://api.roboflow.com` और `https://repo.roboflow.com`तक हो, Secure Gateway कंटेनर पुल करें:

```
docker pull repo.roboflow.com/roboflow-edge/secure-gateway:latest
```

यह `latest` टैग सबसे हालिया रिलीज़ को ट्रैक करता है। प्रोडक्शन के लिए, और खास तौर पर एयर-गैप्ड डिप्लॉयमेंट के लिए, इसके बजाय कोई विशिष्ट संस्करण पिन करें ताकि अपग्रेड जानबूझकर किए जाएँ और दोहराए जा सकें, उदाहरण के लिए `repo.roboflow.com/roboflow-edge/secure-gateway:0.2.0`.

लोकल टेस्टिंग या उसी होस्ट पर TLS प्रॉक्सी के लिए इसे लोकल डिस्क कैश और केवल लूपबैक HTTP लिस्नर के साथ चलाएँ:

```
docker run -d --name secure-gateway -p 127.0.0.1:80:80 --restart unless-stopped \
    -v gateway-cache:/var/cache/secure-gateway \
    repo.roboflow.com/roboflow-edge/secure-gateway:latest
```

पुष्टि करें कि यह चल रहा है:

```
curl http://localhost/health
```

लोकल डिस्क के बजाय S3 पर कैश करने के लिए, `CACHE_S3_BUCKET` और `CACHE_S3_REGION` एनवायरनमेंट वेरिएबल सेट करें। इंस्टेंस या IAM रोल का उपयोग करने के लिए क्रेडेंशियल सेट न करें।

## TLS सर्टिफ़िकेट

डिफ़ॉल्ट रूप से गेटवे सादे HTTP पर सुनता है, और आप उसके सामने स्थित लोड बैलेंसर पर TLS टर्मिनेट करते हैं। गेटवे से ही HTTPS सर्व करने के लिए, अपना सर्टिफ़िकेट और प्राइवेट की कंटेनर में माउंट करें और दोनों सेट करें: `TLS_CERT_FILE` और `TLS_KEY_FILE`। इसके बाद गेटवे अपने कॉन्फ़िगर किए गए पोर्ट पर HTTPS सर्व करता है:

```
docker run -d --name secure-gateway -p 443:443 --restart unless-stopped \
    -e PORT=443 \
    -e TLS_CERT_FILE=/etc/ssl/certs/gateway.crt \
    -e TLS_KEY_FILE=/etc/ssl/private/gateway.key \
    -v /path/to/certs:/etc/ssl:ro \
    -v gateway-cache:/var/cache/secure-gateway \
    repo.roboflow.com/roboflow-edge/secure-gateway:latest
```

दोनों `TLS_CERT_FILE` और `TLS_KEY_FILE` इनबाउंड HTTPS सक्षम करने के लिए आवश्यक हैं, और इनमें से प्रत्येक PEM-एन्कोडेड फ़ाइल की ओर संकेत करता है।

जब गेटवे का आउटबाउंड ट्रैफ़िक Zscaler जैसे कॉर्पोरेट TLS निरीक्षण प्रॉक्सी से होकर गुजरता है, तो `TLS_CA_BUNDLE` को उस प्रॉक्सी के CA बंडल पर सेट करें, ताकि गेटवे api.roboflow\.com और repo.roboflow\.com से अपने कनेक्शनों पर भरोसा कर सके:

```
-e TLS_CA_BUNDLE=/etc/ssl/certs/corporate-ca.pem
```

## इन्फ़रेंस सर्वर कनेक्ट करना

हर Inference Server को स्पष्ट `SECURE_GATEWAY` URL के साथ गेटवे के HTTPS लिसनर या TLS प्रॉक्सी पर निर्देशित करें। सर्वर अपने Roboflow API कॉल और मॉडल डाउनलोड इसी पते से रूट करता है।

```bash
sudo docker run --rm -p 127.0.0.1:9001:9001 \
    --env SECURE_GATEWAY=https://gateway.example.com \
    roboflow/roboflow-inference-server-cpu:latest
```

यदि पोर्ट 443 से अलग हो, तो उसे शामिल करें, जैसे `https://gateway.example.com:8443`। प्रमाणपत्र में URL का होस्टनेम या IP शामिल होना चाहिए, और Inference Server कंटेनर को उसे जारी करने वाले CA पर भरोसा होना चाहिए; गेटवे का आउटबाउंड `TLS_CA_BUNDLE` कॉन्फ़िगर करने से क्लाइंट पर भरोसे की व्यवस्था इंस्टॉल नहीं होती।

इन डिप्लॉयमेंट का उपयोग करते समय [RHEL with Podman](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/secure-gateway-podman.md) या [MicroShift](https://docs.roboflow.com/deployment/hi/self-hosted/enterprise/secure-gateway-microshift.md) के लिए क्लाइंट इंस्टॉलेशन निर्देशों का पालन करें।

### पुराने पते और लोकल टनल

सभी वर्शन में स्पष्ट HTTPS स्कीम का उपयोग करें। लंबित रनटाइम-हार्डनिंग बिल्ड में, बिना स्कीम वाले पतों पर HTTP के बजाय HTTPS का उपयोग होगा, और सादे टेक्स्ट वाले रिमोट या LAN गेटवे अस्वीकार किए जाएँगे; देखें [माइग्रेशन का दायरा](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/security-migration.md#gateway-transport).

यह बिल्ड केवल लूपबैक IP या `localhost`के लिए स्पष्ट HTTP स्वीकार करता है, जैसे `SECURE_GATEWAY=http://127.0.0.1:8080`। टनल, Inference Server के अपने नेटवर्क नेमस्पेस से पहुँच योग्य होनी चाहिए; ब्रिज कंटेनर का लूपबैक उसके होस्ट का लूपबैक नहीं होता।

केवल गेटवे को api.roboflow\.com और repo.roboflow\.com तक आउटबाउंड पहुँच की आवश्यकता है। Inference Server शुरू होने के बाद, कोई मॉडल चलाएँ और पुष्टि करें कि अनुरोध गेटवे के एक्सेस लॉग में दिखाई देते हैं।

पुराना `LICENSE_SERVER` वेरिएबल अब भी `SECURE_GATEWAY`के उपनाम के रूप में स्वीकार किया जाता है और इस पर परिवहन के वही नियम लागू होते हैं। नए कॉन्फ़िगरेशन के लिए `SECURE_GATEWAY` को प्राथमिकता दें।

## कैशिंग

Secure Gateway प्रत्येक रिस्पॉन्स को पहली बार डाउनलोड किए जाने पर कैश करता है; कैश की अवधि इस आधार पर तय होती है कि सामग्री कितनी बार बदलती है। कंटेंट-एड्रेसेबल कंटेनर ब्लॉब और मॉडल वेट सबसे लंबे समय तक रखे जाते हैं, जबकि बदलने वाले API रिस्पॉन्स कम समय के लिए कैश किए जाते हैं। इसके बाद, किसी भी Inference Server के अनुरोध कैश से पूरे किए जाते हैं, जिससे पूरे फ्लीट में बैंडविड्थ का उपयोग और कोल्ड स्टार्ट कम होते हैं।
