Florence 2

Serverless Hosted API を通じて Microsoft の Florence 2 multimodal model を使用します

対応しています Microsoft の Florence 2、マルチモーダルな視覚言語モデルである、当社の Serverless Hosted API。Florence 2 は、タスクプロンプト（たとえば <CAPTION>, <OD>, <OCR>, <REFERRING_EXPRESSION_SEGMENTATION>).

デフォルトのエイリアス

エイリアスを model_id としてリクエストで使用すると、ランタイムが対応する事前学習済み重みへ解決します。

別名
florence-2-base
florence-2-large

精度

公式モデルカードの主要なゼロショット指標（base, large):

ベンチマーク	florence-2-base	florence-2-large
COCO Caption（CIDEr）	133.0	135.6
COCO detection（mAP）	34.7	37.5
RefCOCO（精度）	53.9	56.3

推論速度

〜で測定されたレイテンシ Roboflow Inference 1x NVIDIA L4、バッチサイズ 1 で、 <CAPTION> プロンプトから greedy decoding によりちょうど 128 トークンを生成した場合の値です。レイテンシは出力長に比例するため、他の長さの見積もりには tokens/sec を使用してください。

別名	レイテンシ、128 トークン (ms)	トークン/秒
florence-2-base	652	198
florence-2-large	1120	115

コードサンプル

Florence 2 は共有の /infer/lmm エンドポイント経由で動作します。HTTP エンドポイントを直接 curl、または inference-sdk ラッパー。

HTTP (curl)

1

API Key を取得する

Roboflow アカウントを作成し、キーを次の場所で見つけます Roboflow API 設定ページ そしてシェルで利用できるようにします:

export ROBOFLOW_API_KEY="your-key-here"

2

モデルを実行する

次を呼び出します /infer/lmm タスクプロンプト付きで呼び出すには、 curl:

curl --location 'https://serverless.roboflow.com/infer/lmm' \
  --header 'Content-Type: application/json' \\
  --data '{
    "api_key": "'"$ROBOFLOW_API_KEY"'",
    "image": {"type": "url", "value": "https://media.roboflow.com/quickstart/dog.jpeg"},
    "model_id": "florence-2-base",
    "prompt": "<CAPTION>"
  }'

SDK (Python)

設定する api_url をデプロイ先に合わせてください:

• https://serverless.roboflow.com Serverless Hosted API 用。

• http://localhost:9001 ローカルの Inference サーバー用。

• あなたの Dedicated Deployment プライベートエンドポイントの URL。

差し替えてください <CAPTION> 任意の対応タスクプロンプト（たとえば <DETAILED_CAPTION>, <OD>, <OCR>, <OPEN_VOCABULARY_DETECTION>, <REFERRING_EXPRESSION_SEGMENTATION>）を使用すると、captioning、detection、OCR、segmentation タスクを切り替えられます。

セルフホストのデプロイと task prompt の全一覧については、 推論ドキュメント.