> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/install/cloud/aws.md).

# AWS पर डिप्लॉय करें

Inference CLI और SkyPilot के साथ एक AWS EC2 instance पर Roboflow Inference server डिप्लॉय करें।

आप Amazon Web Services पर होस्ट की गई मशीनों पर Roboflow Inference चला सकते हैं। जब आप अपना क्लाउड इन्फ्रास्ट्रक्चर स्वयं प्रबंधित करते हुए Inference की सुविधाएँ चाहते हैं, तब यह एक अच्छा विकल्प है।

## AWS EC2 इंस्टेंस सेट अप करें

शुरू करने के लिए, आपको AWS पर चल रहा एक EC2 इंस्टेंस चाहिए। इंस्टेंस प्रोविज़न करने के लिए, हम SkyPilot की सलाह देते हैं—यह AI प्रोजेक्ट्स के लिए क्लाउड इंस्टेंस सेट अप करने में आपकी मदद करने वाला टूल है।

अपनी मशीन पर यह कमांड चलाएँ:

```bash
pip install inference "skypilot[aws]"
```

AWS के साथ प्रमाणीकरण करने के लिए [SkyPilot क्लाउड खाता सेटअप दस्तावेज़](https://docs.skypilot.co/en/latest/getting-started/installation.html#cloud-account-setup) का पालन करें, फिर यह चलाएँ:

```bash
inference cloud deploy --provider aws --compute-type gpu
```

इससे AWS में GPU-सक्षम इंस्टेंस प्रोविज़न होता है, जिसमें Roboflow Inference का नवीनतम संस्करण अपने-आप इंस्टॉल हो जाता है।

कमांड पूरा होने पर आपको इस तरह का संदेश दिखना चाहिए:

```
Roboflow Inference को gpu पर aws में डिप्लॉय किया गया; डिप्लॉयमेंट का नाम है ...
अपने डिप्लॉयमेंट की सूची देखने के लिए: inference cloud status
अपना डिप्लॉयमेंट हटाने के लिए: inference cloud undeploy ...
डिप्लॉय किए गए सर्वर में ssh करने के लिए: ssh ...
Roboflow Inference Server http://34.66.116.66:9001 पर चल रहा है
```

इसके बाद आप इस एंडपॉइंट का उपयोग करके मॉडल चला सकते हैं: अपने Roboflow वर्कस्पेस के ऑब्जेक्ट डिटेक्शन, सेगमेंटेशन, क्लासिफ़िकेशन और कीपॉइंट मॉडल, साथ ही CLIP, PaliGemma और SAM2 जैसे फ़ाउंडेशन मॉडल।

## अगले चरण

सेट करके अपने क्लाइंट को नए सर्वर पर निर्देशित करें: `api_url` को अपनी VM के IP पते और सर्वर जिस पोर्ट पर चल रहा है, उस पोर्ट पर सेट करें (`9001` डिफ़ॉल्ट रूप से)। पहले अनुरोध के लिए [मॉडल चलाएँ](https://docs.roboflow.com/deployment/hi/self-hosted/self-hosted.md#run-model-locally) देखें, और डिप्लॉयमेंट प्रबंधित करने के लिए [Inference CLI के क्लाउड कमांड](https://docs.roboflow.com/reference/inference/inference-cli/cloud) देखें।

सर्वर को निजी नेटवर्क से बाहर उपलब्ध कराने से पहले, यह पढ़ें: [स्व-होस्ट किए गए सर्वर को सुरक्षित करना](https://docs.roboflow.com/deployment/hi/self-hosted/inference-server/configuration/security.md).
