Qwen3.5

Alibaba の Qwen3.5-VL 画像言語モデルを、Workflows、Dedicated Deployments、またはセルフホスト Inference で使用します

Qwen3.5 は Alibaba の視覚言語モデル群です。画像とテキストプロンプトを受け取り、テキスト応答を返します。2 つの事前学習済みチェックポイントが利用可能です:

別名	パラメータ
qwen3_5-0.8b	0.8B
qwen3_5-2b	2B

精度

公式モデルカードの主要な視覚言語ベンチマーク（非思考モード）（0.8B, 2B):

ベンチマーク	qwen3_5-0.8b	qwen3_5-2b
MMMU	47.4	64.2
MathVista (mini)	58.6	73.9
MMBench (EN v1.1)	68.0	81.3

推論速度

レイテンシの測定条件： Roboflow Inference 1x NVIDIA L4、バッチサイズ 1、固定プロンプトから greedy decoding でちょうど 128 トークンを生成して測定しています。レイテンシは出力長に比例して変わるため、他の長さの見積もりにはトークン/秒を使用してください。

別名	レイテンシ、128 トークン（ms）	トークン/秒
qwen3_5-0.8b	3307	39
qwen3_5-2b	3688	35

Workflows 経由で Qwen 3.5 VL を使用する

Qwen 3.5 VL は、あらかじめ構成済みの Workflow Models ページの「Open-Source Models」タブで利用できます。「Qwen VL」を選択し、モデルバリアントとプロンプトを選んでから、「Test API」をクリックして Workflow をあなたの Workspace にフォークし、推論を開始します。

この Workflow は統合された qwen_vlm@v1 ブロックを使用します。これは複数の Qwen VL 世代をサポートします:

モデル	パラメータ
Qwen 3.5 VL 0.8B	0.8B
Qwen 3.5 VL 2B	2B
Qwen 3 VL 2B	2B
Qwen 2.5 VL 7B	7B

Inference SDK 経由で Qwen 3.5 VL を使用する

Qwen3.5 への直接の Inference SDK 呼び出しには 専用デプロイメント または セルフホスト型 Inferenceが必要です。ホスト型アクセスを使用する場合は、上記の Workflow 経路を使用してください。

1

API キーを取得する

Roboflow アカウントを作成し、以下でキーを見つけます： Roboflow API 設定ページ その後、シェルで利用できるようにします：

export ROBOFLOW_API_KEY="your-key-here"

2

依存関係をインストールする

以下をインストールします： Inference SDK:

pip install -U inference-sdk supervision

3

モデルを実行する

設定する api_url Dedicated Deployment URL またはローカルの推論サーバーに接続してください。

import os
import supervision as sv
from inference_sdk import InferenceHTTPClient

image = sv.load_image_from_url("https://media.roboflow.com/quickstart/dog.jpeg")

client = InferenceHTTPClient(
    api_url="https://your-deployment.roboflow.cloud",
    api_key=os.environ["ROBOFLOW_API_KEY"],
)
result = client.infer_lmm(
    image,
    model_id="qwen3_5-2b",
    prompt="この画像を簡潔に説明してください。",
    max_new_tokens=256,
)
print(result["response"])

上のコードはモデルの応答をターミナルに出力します:

白い T シャツと赤いショートパンツを着た人物が、肩に黒いバックパックを担いでおり、その上にビーグル犬が乗っています。場面は住宅街の屋外で、背景には近代的なアパート群があり、歩道沿いには緑が見えます。人物は大きな窓のある建物の近くを歩いているか、立っているように見えます。

設定する api_url をデプロイ先に合わせます：

• http://localhost:9001 ローカルの Inference サーバー用。

• あなたの 専用デプロイメント プライベートエンドポイント用の URL。

Roboflow で独自の Qwen3.5 チェックポイントを学習し、モデルごとの {workspace}/{model-slug} の バージョン、学習、モデル).

Inference（セルフホスト型）で使用する

Qwen3.5 は、以下を使って直接読み込むこともできます: inference HTTP 経由で呼び出す代わりに、このパッケージを使用します。

1

パッケージをインストールする

pip install "inference[transformers]"

以下を使用してください： inference-gpu[transformers] GPU マシン上で。

2

モデルを実行する

from inference.models.qwen3_5vl.qwen3_5vl_inference_models import (
    InferenceModelsQwen35VLAdapter,
)

model = InferenceModelsQwen35VLAdapter(
    model_id="qwen3_5-0.8b",
    api_key="YOUR_API_KEY",
)

image = "https://media.roboflow.com/dog.jpeg"
prompt = "この画像には何匹の犬がいますか？"

preprocessed, metadata = model.preprocess(image, prompt)
predictions = model.predict(preprocessed)
result = model.postprocess(predictions, metadata)

print(result[0].response)

Qwen3.5 は「thinking」モードもサポートしており、このモードではモデルが回答前に推論トークンを生成します。

Workflows の実行モード

以下で使用する場合： Workflow、Qwen3.5 は 2 つのモードのいずれかで動作します:

• ローカル実行：モデルは Inference サーバー上で実行されます（GPU 推奨）。

• リモート実行：モデルはリモートの Inference サーバー上で HTTP 経由で呼び出されます。