> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/models/hi/supported-models/cosmos-3-edge.md).

# Cosmos 3 Edge

Cosmos 3 Edge NVIDIA का vision-language "world model" है। इसे भौतिक दृश्य समझ के लिए ट्यून किया गया है: वस्तुओं के बीच स्थानिक संबंधों पर तर्क करना, दृश्यों की सुरक्षा शर्तों के विरुद्ध जाँच करना, और यह अनुमान लगाना कि आगे क्या होने की संभावना है। यह एक छवि और एक टेक्स्ट प्रॉम्प्ट स्वीकार करता है और एक टेक्स्ट प्रतिक्रिया लौटाता है, तथा इसके व्यवहार को निर्देशित करने के लिए एक वैकल्पिक सिस्टम प्रॉम्प्ट भी दिया जा सकता है। हम Cosmos 3 Edge को अपने [सर्वरलेस होस्टेड API](https://docs.roboflow.com/deployment/roboflow-cloud/serverless-api), [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments), और [स्व-होस्टेड Inference](https://inference.roboflow.com/).

{% hint style="info" %}
स्व-होस्टेड Cosmos 3 Edge के लिए CUDA-सक्षम GPU आवश्यक है। यह CPU पर नहीं चल सकता। इसे [सर्वरलेस होस्टेड API](https://docs.roboflow.com/deployment/roboflow-cloud/serverless-api), एक [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) GPU के साथ, या GPU-समर्थित [स्व-होस्टेड Inference](https://inference.roboflow.com/) सर्वर।
{% endhint %}

## कोड उदाहरण

{% stepper %}
{% step %}

### अपनी API कुंजी प्राप्त करें

Roboflow खाता बनाएँ, अपनी कुंजी यहाँ खोजें [Roboflow API सेटिंग्स पेज](https://app.roboflow.com/settings/api) और इसे अपने शेल में उपलब्ध कराएँ:

```bash
export ROBOFLOW_API_KEY="your-key-here"
```

{% endstep %}

{% step %}

### निर्भरताएँ स्थापित करें

स्थापित करें [Inference SDK](https://inference.roboflow.com/):

```bash
pip install inference-sdk
```

{% endstep %}

{% step %}

### मॉडल चलाएँ

उदाहरण पूछता है `nvidia/cosmos-3-edge` मॉडल से एक छवि के बारे में भौतिक-तर्क से जुड़ा प्रश्न पूछता है और उत्तर प्रिंट करता है।

```python
import os
import cv2
from inference_sdk import InferenceHTTPClient

image = cv2.imread("my-image.jpg")
client = InferenceHTTPClient(
    api_url="https://serverless.roboflow.com",
    api_key=os.environ["ROBOFLOW_API_KEY"],
)
result = client.infer_lmm(
    image,
    model_id="nvidia/cosmos-3-edge",
    prompt="इस दृश्य में आगे क्या होने की संभावना है?",
    max_new_tokens=128,
)
print(result["response"])

```

{% endstep %}
{% endstepper %}

ऊपर दिया गया कोड मॉडल की प्रतिक्रिया टर्मिनल पर प्रिंट करता है। यहाँ नमूना छवि पर प्राप्त परिणाम है:

<figure><img src="/files/63064237aaa921e4f68947eae8f67172b45a1b3f" alt="Cosmos 3 Edge predicting what will happen next in a street scene with a red SUV"><figcaption><p>Cosmos 3 Edge अनुमान लगाता है कि दृश्य में आगे क्या होने की संभावना है।</p></figcaption></figure>

## वर्कफ़्लो में उपयोग करें

Cosmos 3 Edge उपलब्ध है [वर्कफ़्लोज़](https://docs.roboflow.com/workflows) में "Cosmos 3" ब्लॉक के रूप में। यह ब्लॉक एक छवि और एक वैकल्पिक पाठ `प्रॉम्प्ट` (डिफ़ॉल्ट `"इस छवि में क्या है, वर्णन करें।"`) के साथ, तथा एक वैकल्पिक सिस्टम प्रॉम्प्ट के साथ, मॉडल की टेक्स्ट प्रतिक्रिया आउटपुट करता है। आप उस आउटपुट को पार्सिंग, फ़िल्टरिंग, या सूचनाओं के लिए डाउनस्ट्रीम ब्लॉक्स में जोड़ सकते हैं।

{% hint style="info" %}
सेट करें `api_url` को अपने परिनियोजन लक्ष्य से मेल कराने के लिए:

* `https://serverless.roboflow.com` सर्वरलेस होस्टेड API के लिए।
* `http://localhost:9001` स्थानीय [Inference](https://inference.roboflow.com/) सर्वर।
* आपका [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) एक निजी एंडपॉइंट के लिए URL।
  {% endhint %}

## Inference (स्व-होस्टेड) के साथ उपयोग करें

Cosmos 3 Edge एक [Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) सर्वर पर भी चलता है जिसे आप स्वयं होस्ट करते हैं।

{% hint style="warning" %}
स्व-होस्टेड Cosmos 3 Edge के लिए CUDA-सक्षम GPU और GPU Inference सर्वर Docker इमेज का Cosmos बिल्ड आवश्यक है ( `-cosmos3` प्रत्यययुक्त टैग, जैसे: `roboflow/roboflow-inference-server-gpu:1.3.8-cosmos3`). मॉडल प्री-रिलीज़ `transformers` बिल्ड्स पर निर्भर करता है, जो केवल उन इमेजों के भीतर ही शिप होते हैं। मानक `latest` इमेज इसे चला नहीं सकती, और `inference` Python पैकेज को pip से स्थापित करना अपने आप में पर्याप्त नहीं है।
{% endhint %}

Cosmos इमेज के साथ एक स्थानीय सर्वर शुरू करें:

```bash
pip install inference-cli
inference server start --image roboflow/roboflow-inference-server-gpu:1.3.8-cosmos3  # http://localhost:9001 सर्व करता है
```

फिर उसी SDK कोड को अपने सर्वर की ओर इंगित करें:

```python
import os
from inference_sdk import InferenceHTTPClient

client = InferenceHTTPClient(
    api_url="http://127.0.0.1:9001",
    api_key=os.environ["ROBOFLOW_API_KEY"],
)

result = client.infer_lmm(
    inference_input="./my-image.jpg",
    model_id="nvidia/cosmos-3-edge",
    prompt="इस दृश्य में आगे क्या होने की संभावना है?",
)
print(result["response"])

```

## Inference Python पैकेज के साथ उपयोग करें

आप मॉडल को इन-प्रोसेस भी चला सकते हैं [Inference](https://inference.roboflow.com/) Python पैकेज के साथ, बिना HTTP सर्वर के। क्योंकि Cosmos निर्भरताएँ केवल `-cosmos3` Docker इमेज में ही शिप होती हैं, इसलिए अपनी स्क्रिप्ट उसी इमेज के भीतर चलाएँ। बनाएँ `app.py`:

```python
from inference import get_model

model = get_model("nvidia/cosmos-3-edge", api_key="YOUR_ROBOFLOW_API_KEY")

result = model.infer(
    "https://media.roboflow.com/dog.jpeg",
    prompt="इस दृश्य में आगे क्या होने की संभावना है?",
)

print(result[0].response)
```

फिर इसे Cosmos इमेज के अंदर चलाएँ:

```bash
docker run --rm --gpus all \\
  -v $(pwd):/workspace -w /workspace \\
  -v /tmp/model-cache:/tmp/model-cache -e MODEL_CACHE_DIR=/tmp/model-cache \\
  --entrypoint python3 \\
  roboflow/roboflow-inference-server-gpu:1.3.8-cosmos3 app.py
```

यह `/tmp/model-cache` माउंट डाउनलोड की गई वेट्स को अलग-अलग रन के बीच बनाए रखता है। यह वही कैश डायरेक्टरी है `inference server शुरू करें` इस्तेमाल करता है।