> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/install/windows.md).

# Windows पर इंस्टॉल करें

native installer या Docker Desktop के साथ, CPU, GPU, या TensorRT पर Windows में Roboflow Inference Server इंस्टॉल करें।

इस पृष्ठ पर दिए गए Docker उदाहरण localhost पर पोर्ट 9001 प्रकाशित करते हैं। किसी अन्य मशीन पर मौजूद क्लाइंट्स के लिए, जानबूझकर मैपिंग को किसी पहुँच योग्य होस्ट पते पर बदलें और कॉन्फ़िगर करें [सर्वर एक्सेस](/deployment/hi/self-hosted/inference-server/configuration/security.md#restrict-network-access).

## Windows इंस्टॉलर (x86)

आप Roboflow Inference Server को अपने Windows मशीन पर native डेस्कटॉप ऐप के साथ चला सकते हैं। नवीनतम GitHub रिलीज़ से नवीनतम Windows इंस्टॉलर डाउनलोड करें: [GitHub पर नवीनतम रिलीज़ देखें और इंस्टॉलर डाउनलोड करें](https://github.com/roboflow/inference/releases).

1. [नवीनतम इंस्टॉलर डाउनलोड करें](https://github.com/roboflow/inference/releases) और Roboflow Inference इंस्टॉल करने के लिए इसे चलाएँ।
2. इंस्टॉल पूरा होने पर, यह Inference Server को लॉन्च करने का विकल्प देता है।
3. सर्वर रोकने के लिए, खुलने वाली टर्मिनल विंडो बंद करें।
4. इसे बाद में फिर से शुरू करने के लिए, खोजें **Roboflow Inference** अपने Start Menu में.

{% hint style="info" %}
**`backend` बैकएंड.** के साथ उपयोग किए जाने पर `backend` बैकएंड, Inference Server को symlinks के साथ कैश प्रबंधन के कारण उन्नत एडमिन अधिकारों के साथ चलना चाहिए। विकल्प है सक्षम करना [Developer Mode](https://learn.microsoft.com/en-us/windows/advanced-settings/developer-mode).

यह `backend` बैकएंड एक environment flag के माध्यम से opt-in है: `$env:USE_INFERENCE_MODELS = "True"`.
{% endhint %}

## Docker का उपयोग करना

सबसे पहले, [Docker Desktop इंस्टॉल करें](https://docs.docker.com/desktop/setup/install/windows-install/). फिर कंटेनर शुरू करने के लिए CLI का उपयोग करें।

{% tabs %}
{% tab title="CPU" %}

```bash
pip install inference-cli
inference server start
```

{% endtab %}

{% tab title="GPU" %}
GPU तक पहुँचने के लिए, सुनिश्चित करें कि आपने नवीनतम NVIDIA ड्राइवर और WSL 2 का नवीनतम संस्करण इंस्टॉल किया है, और Docker में WSL 2 बैकएंड कॉन्फ़िगर किया गया है। [Docker के सेटअप निर्देशों का पालन करें](https://docs.docker.com/desktop/features/gpu/).

फिर कंटेनर शुरू करने के लिए CLI का उपयोग करें:

```bash
pip install inference-cli
inference server start
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
यदि `pip install` कमांड विफल हो जाती है, तो आपको शायद [Python इंस्टॉल करना](https://www.python.org/downloads/) पहले करना होगा। जब आपकी मशीन पर Python 3.12, 3.11, या 3.10 हो, तो कमांड फिर से आज़माएँ।
{% endhint %}

## कंटेनर को मैन्युअल रूप से शुरू करना

यदि आप कंटेनर सेटिंग्स पर अधिक नियंत्रण चाहते हैं, तो इसे स्वयं शुरू करें।

{% tabs %}
{% tab title="CPU" %}
core CPU Docker image में onnxruntime के माध्यम से x64 CPUs पर OpenVINO acceleration का समर्थन शामिल है। SAM2 जैसे भारी मॉडल बहुत धीमे चल सकते हैं (प्रति इमेज दर्जनों सेकंड), जिससे वे व्यावहारिक नहीं रहते; यदि आपको उनकी आवश्यकता है, तो CUDA-सक्षम GPU का उपयोग करें।

CPU inference के मुख्य उपयोग मामले स्थिर छवियों को प्रोसेस करना हैं (उदाहरण के लिए uploads का NSFW classification या document verification) या वीडियो से फ्रेम्स का कभी-कभार sampling (उदाहरण के लिए parking lot का occupancy tracking)।

CPU inference शुरू करने के लिए, उपयोग करें `roboflow/roboflow-inference-server-cpu:latest` कंटेनर.

```bash
docker run -d ^
    --name inference-server ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    roboflow/roboflow-inference-server-cpu:latest
```

{% endtab %}

{% tab title="GPU" %}
GPU कंटेनर NVIDIA-Docker के माध्यम से CUDA का समर्थन करने वाले कार्ड्स पर hardware acceleration जोड़ता है। सुनिश्चित करें कि आपने [GPU तक पहुँच के लिए Docker को सेट अप कर लिया है](https://docs.docker.com/desktop/features/gpu/), फिर जोड़ें `--gpus all` को `docker run` कमांड:

```bash
docker run -d ^
    --name inference-server ^
    --gpus all ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}

{% tab title="TensorRT" %}
GPU कंटेनर के साथ आप वैकल्पिक रूप से सक्षम कर सकते हैं [TensorRT](https://developer.nvidia.com/tensorrt)सक्षम कर सकते हैं, जो NVIDIA का model optimization runtime है। यह आपके मॉडलों की गति को बहुत बढ़ा देता है, लेकिन इसके बदले एक भारी compilation और optimization चरण (कभी-कभी 15+ मिनट) लगता है, जब आप प्रत्येक मॉडल को पहली बार लोड करते हैं।

TensorRT सक्षम करने के लिए जोड़ें `TensorrtExecutionProvider` को `ONNXRUNTIME_EXECUTION_PROVIDERS` environment variable.

```bash
docker run -d ^
    --name inference-server ^
    --gpus all ^
    --read-only ^
    -p 127.0.0.1:9001:9001 ^
    --volume "%USERPROFILE%\.inference\cache:/tmp:rw" ^
    --security-opt="no-new-privileges" ^
    --cap-drop="ALL" ^
    --cap-add="NET_BIND_SERVICE" ^
    -e ONNXRUNTIME_EXECUTION_PROVIDERS="[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]" ^
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}
{% endtabs %}

## Docker Compose

यदि आप अपने एप्लिकेशन के लिए Docker Compose का उपयोग करते हैं, तो समकक्ष YAML यह है:

{% tabs %}
{% tab title="CPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-cpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="GPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="TensorRT" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${USERPROFILE}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    environment:
      ONNXRUNTIME_EXECUTION_PROVIDERS: "[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
Roboflow Enterprise योजनाएँ जोड़ती हैं [एक Helm chart](https://github.com/roboflow/inference/tree/main/inference/enterprise/helm-chart) Kubernetes परिनियोजन, OT नेटवर्क के लिए नेटवर्किंग समाधान, और अनुकूलित सहायता एवं स्थापना पैकेजों के लिए। [अधिक जानने के लिए sales team से संपर्क करें](https://roboflow.com/sales) ।
{% endhint %}

## अगले चरण

* [एक मॉडल चलाएँ](/deployment/hi/self-hosted/self-hosted.md#run-model-locally) अपने नए सर्वर के विरुद्ध।
* [इंस्टॉल करें `inference-gpu` Windows पर bare metal](/deployment/hi/self-hosted/inference-library/bare-metal-gpu-windows.md) यदि आप Docker का उपयोग नहीं कर सकते।
* [एक self-hosted server को सुरक्षित करना](/deployment/hi/self-hosted/inference-server/configuration/security.md) इससे पहले कि आप इसे localhost से आगे उपलब्ध कराएँ।