> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/reference/hi/inference/inference-cli/server.md).

# Inference Server को नियंत्रित करें

inference server command के साथ local Roboflow Inference Server को शुरू, कॉन्फ़िगर, inspect, और stop करें।

द `इन्फरेंस सर्वर` कमांड HTTP सर्वर के चारों ओर एक नियंत्रण परत प्रदान करता है, जो Inference को एक्सपोज़ करती है।

{% hint style="success" %}
कमांड का विवरण देखने के लिए, यह चलाएँ:

```bash
inference server --help
```

हर उप-आदेश के लिए एक सहायता मार्गदर्शिका भी उपलब्ध है:

```bash
inference server start --help
```

{% endhint %}

## `inference server start`

एक स्थानीय Inference Server शुरू करता है। यह वैकल्पिक रूप से एक पोर्ट नंबर लेता है (डिफ़ॉल्ट 9001 है) और Docker कंटेनर केवल तभी शुरू करता है जब उस पोर्ट पर पहले से कोई कंटेनर चल नहीं रहा हो।

यदि आप इसके बजाय अपना सर्वर Google Cloud या Amazon Cloud में किसी वर्चुअल मशीन पर चलाना चाहते हैं, तो देखें [क्लाउड पर परिनियोजन करें](https://docs.roboflow.com/reference/hi/inference/inference-cli/cloud.md).

शुरू करने से पहले, सुनिश्चित करें कि आपकी मशीन पर Docker इंस्टॉल है। Docker एक कंटेनराइज़्ड वातावरण प्रदान करता है, जिससे Inference Server होस्ट सिस्टम की परवाह किए बिना एक सुसंगत और पृथक तरीके से चल सकता है। यदि आपने अभी तक Docker इंस्टॉल नहीं किया है, तो आप इसे प्राप्त कर सकते हैं [Docker की आधिकारिक वेबसाइट](https://www.docker.com/get-started).

CLI स्वचालित रूप से उस डिवाइस का पता लगाता है जिस पर आप चल रहे हैं और उपयुक्त Docker इमेज डाउनलोड करता है।

```bash
inference server start --port 9001 [-e {env variables वाली फ़ाइल का वैकल्पिक_path}]
```

पैरामीटर `--env-file` (या `-e`) एक `.env` फ़ाइल का वैकल्पिक पथ है, जिसे तब आपके Inference Server में लोड किया जाता है जब आंतरिक पैरामीटर के मानों को समायोजित करने की आवश्यकता होती है। कमांड पैरामीटर के रूप में स्पष्ट रूप से पास किया गया कोई भी मान अधिक महत्वपूर्ण माना जाता है और `.env` उसी लक्ष्य वेरिएबल नाम के अंतर्गत फ़ाइल में परिभाषित मान को ओवरराइड करता है।

### नेटवर्क पहुँच

CLI डिफ़ॉल्ट रूप से पोर्ट 9001 को `127.0.0.1` पर प्रकाशित करता है, इसलिए केवल उसी मशीन पर चल रहे प्रोसेस ही इसे एक्सेस कर सकते हैं। NVIDIA Jetson इमेज इसका अपवाद हैं: वे `0.0.0.0`पर प्रकाशित की जाती हैं, क्योंकि एक Jetson सामान्यतः किसी अन्य मशीन से नियंत्रित होता है। उपयोग करें `--bind-address` (या `-b`) को स्पष्ट रूप से चुनने के लिए:

```bash
# नेटवर्क पर अन्य मशीनों से पहुंच योग्य - पहले इसे सुरक्षित करें
inference server start --bind-address 0.0.0.0 --env-file inference.env

# केवल इस मशीन से पहुंच योग्य (Jetson को छोड़कर हर जगह डिफ़ॉल्ट)
inference server start --bind-address 127.0.0.1
```

गैर-लूपबैक पता एक एक्सपोज़र चेतावनी दिखाता है; इसका उपयोग करने से पहले प्रमाणीकरण और फ़ायरवॉल पहुँच कॉन्फ़िगर करें। देखें [सर्वर सुरक्षा](https://docs.roboflow.com/deployment/self-hosted/inference-server/configuration/security) प्रमाणीकरण सेटिंग्स के लिए और [माइग्रेशन स्कोप](https://docs.roboflow.com/deployment/self-hosted/inference-server/configuration/security-migration#release-status) संस्करण लागू होने की जानकारी के लिए।

{% hint style="warning" %}
Inference Server को डिफ़ॉल्ट रूप से किसी प्रमाणीकरण की आवश्यकता नहीं होती और यह Workflows Custom Python blocks को निष्पादित करता है, जो उस किसी भी व्यक्ति के लिए रिमोट कोड निष्पादन है जो पोर्ट तक पहुँच सकता है। पढ़ें [स्व-होस्टेड सर्वर को सुरक्षित करना](https://docs.roboflow.com/deployment/self-hosted/inference-server/configuration/security) इनके अलावा किसी भी चीज़ पर बाइंड करने से पहले `127.0.0.1`.
{% endhint %}

यह फ़्लैग Docker की होस्ट-साइड पोर्ट मैपिंग को नियंत्रित करता है, जिसमें विकास मोड में पोर्ट 9002 भी शामिल है। यह `HOST=0.0.0.0` को कंटेनर के अंदर नहीं बदलता।

### वॉल्यूम माउंट्स

का उपयोग करें `--volume` (या `-v`) फ़्लैग का उपयोग होस्ट डायरेक्टरी को कंटेनर में माउंट करने के लिए करें। यह Workflows द्वारा लिखी गई फ़ाइलों को स्थायी रखने के लिए उपयोगी है (उदाहरण के लिए `local_file_sink` ब्लॉक के माध्यम से) आपकी स्थानीय मशीन पर।

```bash
inference server start --volume /host/path:/container/path
```

आप फ़्लैग को दोहराकर कई वॉल्यूम माउंट कर सकते हैं:

```bash
inference server start --volume /host/data:/data --volume /host/models:/models:ro
```

वैकल्पिक `:ro` सफ़िक्स वॉल्यूम को केवल-पढ़ने योग्य के रूप में माउंट करता है। यदि इसे छोड़ा जाए, तो वॉल्यूम पढ़ने-लिखने योग्य के रूप में माउंट होता है।

### विकास मोड

का उपयोग करें `--dev` फ़्लैग का उपयोग Inference Server को विकास मोड में शुरू करने के लिए करें। विकास मोड आसान परीक्षण और विकास के लिए Inference Server का अंतर्निहित notebook environment सक्षम करता है।

```bash
inference server start --dev
```

देखें `localhost:9001` अपने ब्राउज़र में Inference लैंडिंग पेज देखने के लिए, जो संसाधनों और उदाहरणों के लिंक देता है। लैंडिंग पेज से, नया टैब में अंतर्निहित JupyterLab environment खोलने के लिए "Jump Into an Inference Enabled Notebook" चुनें। यह पहले से ही उदाहरण notebooks और Inference चलाने के लिए आवश्यक सभी dependencies के साथ लोड आता है।

### टनेल

का उपयोग करें `--tunnel` फ़्लैग का उपयोग Inference Server को एक टनेल के साथ शुरू करने के लिए करें, जो TLS-सक्षम endpoint पर बाहरी अनुरोधों के लिए inference को एक्सपोज़ करता है। यह host publishing को बाध्य करता है `0.0.0.0` ताकि टनेल कनेक्ट हो सके, भले ही आपने loopback bind address अनुरोध किया हो; LAN पहुँच के साथ-साथ टनेल के माध्यम से पहुँच की भी समीक्षा करें।

यादृच्छिक रूप से जनरेट किया गया पता सर्वर स्टार्ट आउटपुट में दिखाया जाता है:

```
स्थानीय inference के लिए टनेल चल रहा है https://somethingrandom-ip-192-168-0-1.roboflow.run पर
```

## `inference server status`

स्थानीय Inference Server की स्थिति जाँचता है।

```bash
inference server status
```

## `inference server stop`

Inference Server को रोकता है।

```bash
inference server stop
```
