Qwen3.5

Workflows、Dedicated Deployments、または self-hosted Inference を通じて Alibaba の Qwen3.5-VL vision-language model を使用します

Qwen3.5 は Alibaba の vision-language model ファミリーです。画像とテキストプロンプトを受け取り、テキスト応答を返します。2 つの事前学習済みチェックポイントが利用できます:

別名	パラメーター
qwen3_5-0.8b	0.8B
qwen3_5-2b	2B

精度

公式モデルカード（ からの主要な vision-language ベンチマーク（non-thinking mode）0.8B, 2B):

ベンチマーク	qwen3_5-0.8b	qwen3_5-2b
MMMU	47.4	64.2
MathVista (mini)	58.6	73.9
MMBench (EN v1.1)	68.0	81.3

推論速度

〜で測定されたレイテンシ Roboflow Inference 1x NVIDIA L4、バッチサイズ 1、固定プロンプトから greedy decoding でちょうど 128 トークンを生成して測定。レイテンシは出力長に応じて変化するため、他の長さを推定するには tokens/sec を使用してください。

別名	レイテンシ、128 トークン (ms)	トークン/秒
qwen3_5-0.8b	3307	39
qwen3_5-2b	3688	35

Workflows を介して Qwen 3.5 VL を使用する

Qwen 3.5 VL は事前設定済みの Workflow Models ページの「Open-Source Models」タブにあります。「Qwen VL」を選択し、モデルのバリアントとプロンプトを選んでから、「Test API」をクリックすると、Workflow をあなたの Workspace に fork し、推論の実行を開始できます。

この Workflow は統一された qwen_vlm@v1 block を使用しており、複数の Qwen VL 世代をサポートしています:

モデル	パラメーター
Qwen 3.5 VL 0.8B	0.8B
Qwen 3.5 VL 2B	2B
Qwen 3 VL 2B	2B
Qwen 2.5 VL 7B	7B

Inference SDK を介して Qwen 3.5 VL を使用する

Qwen3.5 への直接の Inference SDK 呼び出しには、 Dedicated Deployment または self-hosted Inferenceが必要です。ホスト型アクセスには、上記で説明した Workflow の方法を使用してください。

1

API Key を取得する

Roboflow アカウントを作成し、キーを次の場所で見つけます Roboflow API 設定ページ そしてシェルで利用できるようにします:

export ROBOFLOW_API_KEY="your-key-here"

2

依存関係をインストールする

次をインストールします: Inference SDK:

pip install inference-sdk

3

モデルを実行する

設定する api_url を Dedicated Deployment の URL またはローカルの Inference server に設定します。

import os
import cv2
import numpy as np
import requests
from inference_sdk import InferenceHTTPClient

content = requests.get("https://media.roboflow.com/quickstart/dog.jpeg").content
image = cv2.imdecode(np.frombuffer(content, np.uint8), cv2.IMREAD_COLOR)

client = InferenceHTTPClient(
    api_url="https://your-deployment.roboflow.cloud",
    api_key=os.environ["ROBOFLOW_API_KEY"],
)
result = client.infer_lmm(
    image,
    model_id="qwen3_5-2b",
    prompt="この画像を簡単に説明してください。",
    max_new_tokens=256,
)
print(result["response"])

上記のコードは、モデルの応答をターミナルに出力します:

白い T シャツと赤いショートパンツを着た人物が、肩に黒いバックパックを担いでおり、その上にビーグル犬が乗っています。場面は屋外の住宅街で、背景には近代的な集合住宅があり、歩道沿いには緑が見えます。人物は大きな窓のある建物の近くを歩いているか、立っているように見えます。

設定する api_url をデプロイ先に合わせてください:

• http://localhost:9001 ローカルの Inference サーバー用。

• あなたの Dedicated Deployment プライベートエンドポイントの URL。

Roboflow で独自の Qwen3.5 チェックポイントを学習し、モデルごとの {workspace}/{model-slug} ID で呼び出すことができます（ Versions, Trainings, and Models).