> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/install/windows.md).

# Windows पर इंस्टॉल करें

native installer या Docker Desktop के साथ, CPU, GPU, या TensorRT पर Windows में Roboflow Inference Server इंस्टॉल करें।

इस पेज के Docker उदाहरण localhost पर पोर्ट 9001 प्रकाशित करते हैं। किसी दूसरी मशीन पर मौजूद क्लाइंट के लिए, मैपिंग को जानबूझकर ऐसे पहुँच योग्य होस्ट पते पर बदलें और कॉन्फ़िगर करें [सर्वर एक्सेस](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/security.md#restrict-network-access).

## Windows इंस्टॉलर (x86)

आप नेटिव डेस्कटॉप ऐप की मदद से अपनी Windows मशीन पर Roboflow Inference Server चला सकते हैं। नवीनतम GitHub रिलीज़ से Windows का नवीनतम इंस्टॉलर डाउनलोड करें: [GitHub पर नवीनतम रिलीज़ देखें और इंस्टॉलर डाउनलोड करें](https://github.com/roboflow/inference/releases).

1. [नवीनतम इंस्टॉलर डाउनलोड करें](https://github.com/roboflow/inference/releases) और Roboflow Inference इंस्टॉल करने के लिए उसे चलाएँ।
2. इंस्टॉलेशन पूरा होने पर, आपको Inference Server लॉन्च करने का विकल्प मिलेगा।
3. सर्वर रोकने के लिए, खुलने वाली टर्मिनल विंडो बंद करें।
4. बाद में इसे फिर से शुरू करने के लिए, अपने Start Menu में **Roboflow Inference** ढूँढें।

{% hint style="info" %}
**`inference-models` बैकएंड।** के साथ उपयोग करने पर `inference-models` बैकएंड के साथ, सिमलिंक के ज़रिए कैश प्रबंधन के कारण Inference Server को एडमिन के उन्नत अधिकारों के साथ चलाना आवश्यक है। इसका विकल्प है [डेवलपर मोड](https://learn.microsoft.com/en-us/windows/advanced-settings/developer-mode).

यह `inference-models` बैकएंड को एक पर्यावरण फ़्लैग के ज़रिए वैकल्पिक रूप से सक्षम किया जाता है: `$env:USE_INFERENCE_MODELS = "True"`.
{% endhint %}

## Docker का उपयोग करना

सबसे पहले, [Docker Desktop इंस्टॉल करें](https://docs.docker.com/desktop/setup/install/windows-install/). फिर कंटेनर शुरू करने के लिए CLI का उपयोग करें।

{% tabs %}
{% tab title="CPU" %}

```bash
pip install inference-cli
inference server start
```

{% endtab %}

{% tab title="GPU" %}
GPU का उपयोग करने के लिए, सुनिश्चित करें कि आपने NVIDIA ड्राइवरों का नवीनतम संस्करण और WSL 2 का नवीनतम संस्करण इंस्टॉल किया है, और Docker में WSL 2 बैकएंड कॉन्फ़िगर किया हुआ है। [Docker के सेटअप निर्देशों का पालन करें](https://docs.docker.com/desktop/features/gpu/).

फिर कंटेनर शुरू करने के लिए CLI का उपयोग करें:

```bash
pip install inference-cli
inference server start
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
अगर `pip install` कमांड विफल हो जाती है, तो आपको पहले [Python इंस्टॉल](https://www.python.org/downloads/) करना पड़ सकता है। अपने कंप्यूटर पर Python 3.12, 3.11 या 3.10 इंस्टॉल करने के बाद, कमांड को फिर से चलाएँ।
{% endhint %}

## कंटेनर को मैन्युअल रूप से शुरू करना

अगर आप कंटेनर की सेटिंग पर अधिक नियंत्रण चाहते हैं, तो इसे स्वयं शुरू करें।

{% tabs %}
{% tab title="CPU" %}
मुख्य CPU Docker इमेज में onnxruntime के ज़रिए x64 CPUs पर OpenVINO एक्सेलेरेशन का समर्थन शामिल है। SAM2 जैसे भारी मॉडल इतनी धीमी गति से चल सकते हैं (हर इमेज में दर्जनों सेकंड) कि उनका व्यावहारिक उपयोग कठिन हो जाए; अगर आपको ऐसे मॉडल चाहिए, तो CUDA-सक्षम GPU का उपयोग करें।

CPU अनुमान के मुख्य उपयोगों में स्थिर इमेज को प्रोसेस करना (उदाहरण के लिए, अपलोड की गई फ़ाइलों का NSFW वर्गीकरण या दस्तावेज़ का सत्यापन) अथवा वीडियो से कभी-कभार फ़्रेम लेना (उदाहरण के लिए, पार्किंग स्थल में वाहनों की संख्या पर नज़र रखना) शामिल हैं।

CPU अनुमान शुरू करने के लिए, इसका उपयोग करें `roboflow/roboflow-inference-server-cpu:latest` कंटेनर।

```bash
docker run -d ^
    --name inference-server ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    roboflow/roboflow-inference-server-cpu:latest
```

{% endtab %}

{% tab title="GPU" %}
GPU कंटेनर NVIDIA-Docker के ज़रिए CUDA-संगत कार्डों पर हार्डवेयर एक्सेलरेशन जोड़ता है। सुनिश्चित करें कि आपने [GPU तक पहुँचने के लिए Docker को कॉन्फ़िगर किया है](https://docs.docker.com/desktop/features/gpu/), फिर इसमें जोड़ें `--gpus all` को `docker run` कमांड:

```bash
docker run -d ^
    --name inference-server ^
    --gpus all ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}

{% tab title="TensorRT" %}
GPU कंटेनर के साथ, आप वैकल्पिक रूप से [TensorRT](https://developer.nvidia.com/tensorrt), NVIDIA का मॉडल ऑप्टिमाइज़ेशन रनटाइम, सक्षम कर सकते हैं। इससे आपके मॉडल की गति काफी बढ़ जाती है, लेकिन इसके लिए पहली बार प्रत्येक मॉडल लोड करते समय भारी कंपाइलेशन और ऑप्टिमाइज़ेशन प्रक्रिया करनी पड़ती है (जिसमें कभी-कभी 15 मिनट से ज़्यादा लगते हैं)।

TensorRT सक्षम करने के लिए `TensorrtExecutionProvider` को `ONNXRUNTIME_EXECUTION_PROVIDERS` एनवायरनमेंट वेरिएबल में जोड़ें।

```bash
docker run -d ^
    --name inference-server ^
    --gpus all ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    -e ONNXRUNTIME_EXECUTION_PROVIDERS="[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]" ^
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}
{% endtabs %}

## Docker Compose

अगर आप अपने एप्लिकेशन के लिए Docker Compose का इस्तेमाल करते हैं, तो इसका समकक्ष YAML इस तरह है:

{% tabs %}
{% tab title="CPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-cpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="GPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="TensorRT" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    पर्यावरण:
      ONNXRUNTIME_EXECUTION_PROVIDERS: "[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
Roboflow Enterprise प्लान में Kubernetes डिप्लॉयमेंट के लिए [एक Helm चार्ट](https://github.com/roboflow/inference/tree/main/inference/enterprise/helm-chart) OT नेटवर्क के लिए नेटवर्किंग समाधान, और अनुकूलित सहायता व इंस्टॉलेशन पैकेज शामिल हैं। [अधिक जानकारी के लिए बिक्री टीम से संपर्क करें](https://roboflow.com/sales) ।
{% endhint %}

## अगले चरण

* [मॉडल चलाएँ](https://docs.roboflow.com/deployment/hi/self-hosted/self-hosted.md#run-model-locally) अपने नए सर्वर पर।
* [इंस्टॉल करें `inference-gpu` Windows पर बेयर मेटल पर](https://docs.roboflow.com/deployment/hi/self-hosted/inference-library/bare-metal-gpu-windows.md) यदि आप Docker का उपयोग नहीं कर सकते।
* [स्व-होस्ट किए गए सर्वर को सुरक्षित करना](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/security.md) इसे localhost से बाहर उपलब्ध कराने से पहले।
