> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/models/hi/supported-models/qwen3-vl.md).

# Qwen3-VL

Qwen3-VL अलीबाबा का विज़न-लैंग्वेज मॉडल है। यह एक छवि और एक टेक्स्ट प्रॉम्प्ट स्वीकार करता है और टेक्स्ट उत्तर देता है। हम Qwen3-VL को हमारे माध्यम से समर्थन देते हैं [सर्वरलेस होस्टेड API](https://docs.roboflow.com/deployment/roboflow-cloud/serverless-api), [समर्पित परिनियोजन](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments), और [स्व-होस्टेड Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted).

## कोड सैंपल

{% stepper %}
{% step %}

### अपनी API कुंजी प्राप्त करें

एक Roboflow खाता बनाएँ, अपनी कुंजी यहाँ खोजें [Roboflow API सेटिंग्स पेज](https://app.roboflow.com/settings/api) और इसे अपने शेल में उपलब्ध कराएँ:

```bash
export ROBOFLOW_API_KEY="your-key-here"
```

{% endstep %}

{% step %}

### डिपेंडेंसीज़ इंस्टॉल करें

इंस्टॉल करें [Inference SDK](https://docs.roboflow.com/deployment/self-hosted/self-hosted):

```bash
pip install -U inference-sdk supervision
```

{% endstep %}

{% step %}

### मॉडल चलाएँ

नमूना निम्न को प्रॉम्प्ट करता है `qwen3vl-2b-instruct` चेकपॉइंट का उपयोग एक छवि का वर्णन करने के लिए करता है और उत्तर प्रिंट करता है।

```python
import os
import supervision as sv
from inference_sdk import InferenceHTTPClient

image = sv.load_image_from_url("https://media.roboflow.com/quickstart/dog.jpeg")

client = InferenceHTTPClient(
    api_url="https://serverless.roboflow.com",
    api_key=os.environ["ROBOFLOW_API_KEY"],
)
result = client.infer_lmm(
    image,
    model_id="qwen3vl-2b-instruct",
    prompt="इस छवि का संक्षेप में वर्णन करें.",
    max_new_tokens=128,
)
print(result["response"])
```

{% endstep %}
{% endstepper %}

ऊपर दिया गया कोड मॉडल के उत्तर को टर्मिनल पर प्रिंट करता है:

```
सफेद टी-शर्ट और लाल शॉर्ट्स पहने एक आदमी अपने कंधों पर एक बीगल कुत्ते को उठा रहा है। कुत्ते ने काला हार्नेस पहना हुआ है और वह आगे की ओर देख रहा है। आदमी एक आवासीय क्षेत्र में पक्के रास्ते पर चल रहा है, और पीछे अपार्टमेंट इमारतें दिखाई दे रही हैं। बाईं ओर हरी घास और सफेद फूलों वाला एक छोटा बगीचा है।
```

<figure><img src="/files/1c77412e76a7ef0da3388966565d88d3e1adfb60" alt=""><figcaption></figcaption></figure>

## Inference गति

लेटेंसी मापी गई [Roboflow Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) 1x NVIDIA L4 पर, बैच आकार 1 के साथ, एक स्थिर प्रॉम्प्ट से greedy decoding का उपयोग करके ठीक 128 टोकन उत्पन्न करते हुए। विलंबता आउटपुट लंबाई के साथ स्केल करती है, इसलिए अन्य लंबाइयों का अनुमान लगाने के लिए tokens/sec का उपयोग करें।

<table data-search="false"><thead><tr><th>उपनाम</th><th>विलंबता, 128 टोकन (मि.से.)</th><th>टोकन/सेकंड</th></tr></thead><tbody><tr><td><code>qwen3vl-2b-instruct</code></td><td>4057</td><td>32</td></tr><tr><td><code>qwen25-vl-7b</code></td><td>5603</td><td>23</td></tr></tbody></table>

`qwen25-vl-7b` पहला Qwen2.5-VL चेकपॉइंट है। इसे यहाँ सूचीबद्ध किया गया है क्योंकि यह इस उपनाम नामस्थान को साझा करता है और उसी ब्लॉक के माध्यम से चलता है।

{% hint style="info" %}
सेट करें `api_url` अपने डिप्लॉयमेंट लक्ष्य से मेल खाने के लिए:

* `https://serverless.roboflow.com` Serverless Hosted API के लिए।
* `http://localhost:9001` एक लोकल [Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) सर्वर के लिए।
* आपका [समर्पित डिप्लॉयमेंट](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) एक निजी endpoint के लिए URL।
  {% endhint %}

आप Roboflow पर अपना खुद का Qwen3-VL चेकपॉइंट प्रशिक्षित कर सकते हैं और इसे उसके प्रति-मॉडल `{workspace}/{model-slug}` ID को बदलें (देखें [Versions, Trainings, and Models](/models/hi/versions-trainings-and-models.md)).