> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/models/hi/supported-models/cosmos-3-edge.md).

# Cosmos 3 Edge

Cosmos 3 Edge NVIDIA का विज़न-भाषा "वर्ल्ड मॉडल" है। इसे भौतिक दृश्य समझ के लिए ट्यून किया गया है: वस्तुओं के बीच स्थानिक संबंधों पर तर्क करना, दृश्यों की सुरक्षा स्थितियों के विरुद्ध जाँच करना, और आगे क्या होने की संभावना है, इसका अनुमान लगाना। यह एक छवि और एक टेक्स्ट प्रॉम्प्ट स्वीकार करता है और एक टेक्स्ट प्रतिक्रिया लौटाता है, तथा इसके व्यवहार को निर्देशित करने के लिए एक वैकल्पिक सिस्टम प्रॉम्प्ट भी दिया जा सकता है। हम Cosmos 3 Edge को अपने [सर्वरलेस क्लाउड API](https://docs.roboflow.com/deployment/roboflow-cloud/serverless-api), [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments), और [स्व-होस्टेड इन्फ़रेंस](https://inference.roboflow.com/).

{% hint style="info" %}
स्व-होस्टेड Cosmos 3 Edge के लिए CUDA-सक्षम GPU आवश्यक है। यह CPU पर नहीं चल सकता। इसे पर चलाएँ [सर्वरलेस क्लाउड API](https://docs.roboflow.com/deployment/roboflow-cloud/serverless-api), एक [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) GPU वाले, या GPU-समर्थित [स्व-होस्टेड इन्फ़रेंस](https://inference.roboflow.com/) सर्वर।
{% endhint %}

## Cosmos 3 Edge API

{% stepper %}
{% step %}

### अपनी API कुंजी प्राप्त करें

एक Roboflow खाता बनाएँ, अपनी कुंजी यहाँ खोजें [Roboflow API सेटिंग्स पेज](https://app.roboflow.com/settings/api) और इसे अपने शेल में उपलब्ध कराएँ:

```bash
export ROBOFLOW_API_KEY="your-key-here"
```

{% endstep %}

{% step %}

### निर्भरताएँ इंस्टॉल करें

इंस्टॉल करें [इन्फ़रेंस SDK](https://inference.roboflow.com/):

```bash
pip install inference-sdk
```

{% endstep %}

{% step %}

### मॉडल चलाएँ

नमूना यह पूछता है कि `nvidia/cosmos-3-edge` मॉडल से किसी छवि पर आधारित भौतिक-तर्क संबंधी प्रश्न पूछा जाता है और प्रतिक्रिया मुद्रित की जाती है।

```python
import os
import cv2
from inference_sdk import InferenceHTTPClient, InferenceConfiguration

image = cv2.imread("my-image.jpg")
client = InferenceHTTPClient(
    api_url="https://serverless.roboflow.com",
    api_key=os.environ["ROBOFLOW_API_KEY"],
).configure(InferenceConfiguration(api_key_transport="header"))
result = client.infer_lmm(
    image,
    model_id="nvidia/cosmos-3-edge",
    prompt="इस दृश्य में आगे क्या होने की संभावना है?",
    max_new_tokens=128,
)
print(result["response"])
```

{% endstep %}
{% endstepper %}

ऊपर दिया गया कोड मॉडल की प्रतिक्रिया को टर्मिनल पर प्रिंट करता है। नमूना छवि पर परिणाम यह है:

<figure><img src="/files/63064237aaa921e4f68947eae8f67172b45a1b3f" alt="Cosmos 3 Edge predicting what will happen next in a street scene with a red SUV"><figcaption><p>Cosmos 3 Edge यह भविष्यवाणी करता है कि दृश्य में आगे क्या होने की संभावना है।</p></figcaption></figure>

## एक वर्कफ़्लो में Cosmos 3 Edge का उपयोग करें

Cosmos 3 Edge उपलब्ध है [वर्कफ़्लोज़](https://docs.roboflow.com/workflows) के "Cosmos 3" ब्लॉक के रूप में। यह ब्लॉक एक छवि और एक वैकल्पिक टेक्स्ट `प्रॉम्प्ट` (डिफ़ॉल्ट `"इस छवि में क्या है, इसका वर्णन करें।"`), साथ ही एक वैकल्पिक सिस्टम प्रॉम्प्ट, और मॉडल की टेक्स्ट प्रतिक्रिया आउटपुट करता है। आप उस आउटपुट को पार्सिंग, फ़िल्टरिंग, या सूचनाओं के लिए डाउनस्ट्रीम ब्लॉक्स में जोड़ सकते हैं।

{% hint style="info" %}
सेट करें `api_url` को अपने परिनियोजन लक्ष्य से मिलाएँ:

* `https://serverless.roboflow.com` सर्वरलेस क्लाउड API के लिए।
* `http://localhost:9001` एक स्थानीय [इन्फ़रेंस](https://inference.roboflow.com/) सर्वर।
* आपका [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) एक निजी एंडपॉइंट के लिए URL.
  {% endhint %}

## स्व-होस्टेड इन्फ़रेंस के साथ Cosmos 3 Edge चलाएँ

Cosmos 3 Edge एक पर भी चलता है [इन्फ़रेंस](https://docs.roboflow.com/deployment/self-hosted/self-hosted) सर्वर जिसको आप स्वयं होस्ट करते हैं।

{% hint style="warning" %}
स्व-होस्टेड Cosmos 3 Edge के लिए CUDA-सक्षम GPU और GPU इन्फ़रेंस सर्वर Docker इमेज का Cosmos बिल्ड आवश्यक है ( `-cosmos3` से समाप्त होने वाले टैग, उदाहरण: `roboflow/roboflow-inference-server-gpu:1.3.9-cosmos3`). मॉडल प्री-रिलीज़ `transformers` बिल्ड्स पर निर्भर करता है, जो केवल उन्हीं इमेजों के भीतर शिप होती हैं। मानक `latest` इमेज इसे नहीं चला सकती, और `इन्फ़रेंस` Python पैकेज को pip से इंस्टॉल करना अपने आप में पर्याप्त नहीं है।
{% endhint %}

Cosmos इमेज के साथ एक स्थानीय सर्वर शुरू करें:

```bash
pip install inference-cli
inference server start --image roboflow/roboflow-inference-server-gpu:1.3.9-cosmos3  # http://localhost:9001 पर सेवा देता है
```

फिर उसी SDK कोड को अपने सर्वर की ओर इंगित करें:

```python
import os
from inference_sdk import InferenceHTTPClient

client = InferenceHTTPClient(
    api_url="http://127.0.0.1:9001",
    api_key=os.environ["ROBOFLOW_API_KEY"],
)

result = client.infer_lmm(
    inference_input="./my-image.jpg",
    model_id="nvidia/cosmos-3-edge",
    prompt="इस दृश्य में आगे क्या होने की संभावना है?",
)
print(result["response"])
```

## Inference Python पैकेज के साथ Cosmos 3 Edge चलाएँ

आप मॉडल को इस के साथ in-process भी चला सकते हैं [इन्फ़रेंस](https://inference.roboflow.com/) Python पैकेज के साथ, बिना HTTP सर्वर के। क्योंकि Cosmos निर्भरताएँ केवल `-cosmos3` Docker इमेज में शिप होती हैं, इसलिए अपनी स्क्रिप्ट उसी इमेज के अंदर चलाएँ। बनाएँ `app.py`:

```python
from inference import get_model

model = get_model("nvidia/cosmos-3-edge", api_key="YOUR_ROBOFLOW_API_KEY")

result = model.infer(
    "https://media.roboflow.com/dog.jpeg",
    prompt="इस दृश्य में आगे क्या होने की संभावना है?",
)

print(result[0].response)
```

फिर इसे Cosmos इमेज के अंदर चलाएँ:

```bash
docker run --rm --gpus all \\
  -v $(pwd):/workspace -w /workspace \\
  -v /tmp/model-cache:/tmp/model-cache -e MODEL_CACHE_DIR=/tmp/model-cache \\
  --entrypoint python3 \\
  roboflow/roboflow-inference-server-gpu:1.3.9-cosmos3 app.py
```

यह `/tmp/model-cache` माउंट डाउनलोड किए गए वज़न को अलग-अलग रन के बीच बनाए रखता है। यह वही कैश निर्देशिका है `inference server start` का उपयोग करता है।