> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/models/hi/supported-models/qwen3-vl.md).

# Qwen3-VL

Qwen3-VL Alibaba का विज़न-लैंग्वेज मॉडल है। यह एक छवि और एक टेक्स्ट प्रॉम्प्ट स्वीकार करता है और एक टेक्स्ट उत्तर लौटाता है। हम अपने माध्यम से Qwen3-VL का समर्थन करते हैं [सर्वरलेस क्लाउड API](https://docs.roboflow.com/deployment/roboflow-cloud/serverless-api), [समर्पित डिप्लॉयमेंट्स](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments), और [स्व-होस्टेड Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted).

## Qwen3-VL API

{% stepper %}
{% step %}

### अपनी API कुंजी प्राप्त करें

एक Roboflow खाता बनाएँ, अपनी कुंजी यहाँ खोजें [Roboflow API सेटिंग्स पेज](https://app.roboflow.com/settings/api) और इसे अपने शेल में उपलब्ध कराएँ:

```bash
export ROBOFLOW_API_KEY="your-key-here"
```

{% endstep %}

{% step %}

### निर्भरताएँ इंस्टॉल करें

इंस्टॉल करें [इन्फ़रेंस SDK](https://docs.roboflow.com/deployment/self-hosted/self-hosted):

```bash
pip install -U inference-sdk supervision
```

{% endstep %}

{% step %}

### मॉडल चलाएँ

यह नमूना प्रॉम्प्ट करता है `qwen3vl-2b-instruct` चेकपॉइंट का उपयोग करके एक छवि का वर्णन करता है और प्रतिक्रिया प्रिंट करता है।

```python
import os
import supervision as sv
from inference_sdk import InferenceHTTPClient, InferenceConfiguration

image = sv.load_image_from_url("https://media.roboflow.com/quickstart/dog.jpeg")

client = InferenceHTTPClient(
    api_url="https://serverless.roboflow.com",
    api_key=os.environ["ROBOFLOW_API_KEY"],
).configure(InferenceConfiguration(api_key_transport="header"))
result = client.infer_lmm(
    image,
    model_id="qwen3vl-2b-instruct",
    prompt="इस छवि का संक्षेप में वर्णन करें.",
    max_new_tokens=128,
)
print(result["response"])
```

{% endstep %}
{% endstepper %}

ऊपर दिया गया कोड मॉडल की प्रतिक्रिया टर्मिनल पर प्रिंट करता है:

```
एक सफेद टी-शर्ट और लाल शॉर्ट्स पहने एक आदमी अपने कंधों पर एक बीगल कुत्ता उठा रहा है। कुत्ते ने काला हार्नेस पहना हुआ है और वह आगे देख रहा है। आदमी एक आवासीय क्षेत्र में पक्के रास्ते पर चल रहा है, और पीछे अपार्टमेंट इमारतें हैं। बाईं ओर हरी घास और सफेद फूलों वाला एक छोटा बगीचा है।
```

<figure><img src="/files/1c77412e76a7ef0da3388966565d88d3e1adfb60" alt=""><figcaption></figcaption></figure>

## Qwen3-VL इन्फ़रेंस गति

लेटेंसी मापी गई [Roboflow Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) 1x NVIDIA L4 पर, बैच आकार 1 के साथ, एक निश्चित प्रॉम्प्ट से greedy decoding का उपयोग करके ठीक 128 टोकन जनरेट करते हुए। लेटेंसी आउटपुट लंबाई के साथ स्केल करती है, इसलिए अन्य लंबाइयों का अनुमान लगाने के लिए tokens/sec का उपयोग करें।

<table data-search="false"><thead><tr><th>उपनाम</th><th>लेटेंसी, 128 टोकन (ms)</th><th>टोकन/सेकंड</th></tr></thead><tbody><tr><td><code>qwen3vl-2b-instruct</code></td><td>4057</td><td>32</td></tr><tr><td><code>qwen25-vl-7b</code></td><td>5603</td><td>23</td></tr></tbody></table>

`qwen25-vl-7b` यह पहले वाला Qwen2.5-VL चेकपॉइंट है। इसे यहाँ इसलिए सूचीबद्ध किया गया है क्योंकि यह इस alias namespace को साझा करता है और उसी block से चलता है।

{% hint style="info" %}
सेट करें `api_url` को अपने परिनियोजन लक्ष्य से मिलाएँ:

* `https://serverless.roboflow.com` सर्वरलेस क्लाउड API के लिए।
* `http://localhost:9001` एक स्थानीय [इन्फ़रेंस](https://docs.roboflow.com/deployment/self-hosted/self-hosted) सर्वर।
* आपका [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) एक निजी एंडपॉइंट के लिए URL.
  {% endhint %}

आप Roboflow पर अपना खुद का Qwen3-VL चेकपॉइंट प्रशिक्षित कर सकते हैं और उसे उसके प्रति-मॉडल `{workspace}/{model-slug}` ID बदलें (देखें [संस्करण, प्रशिक्षण, और मॉडल](/models/hi/versions-trainings-and-models.md)).