> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/models/ja/supported-models/florence-2.md).

# Florence 2

対応しています [MicrosoftのFlorence 2](https://huggingface.co/microsoft/Florence-2-base)、マルチモーダルな視覚言語モデルであるこれを、当社の [Serverless Cloud API](https://docs.roboflow.com/deployment/roboflow-cloud/serverless-api)。Florence 2は、タスクプロンプト（たとえば `<CAPTION>`, `<OD>`, `<OCR>`, `<REFERRING_EXPRESSION_SEGMENTATION>`).

## Florence 2の事前学習済みエイリアス

エイリアスを次のものとして使用してください `model_id` をリクエストで指定すると、実行時に対応する事前学習済み重みに解決されます。

<table data-search="false"><thead><tr><th>別名</th></tr></thead><tbody><tr><td><code>florence-2-base</code></td></tr><tr><td><code>florence-2-large</code></td></tr></tbody></table>

## Florence 2の精度

公式モデルカードの代表的なゼロショット指標（[base](https://huggingface.co/microsoft/Florence-2-base), [large](https://huggingface.co/microsoft/Florence-2-large)):

<table data-header-hidden data-search="false"><thead><tr><th></th><th></th><th></th></tr></thead><tbody><tr><td>ベンチマーク</td><td><code>florence-2-base</code></td><td><code>florence-2-large</code></td></tr><tr><td>COCOキャプション（CIDEr）</td><td>133.0</td><td>135.6</td></tr><tr><td>COCO検出（mAP）</td><td>34.7</td><td>37.5</td></tr><tr><td>RefCOCO（精度）</td><td>53.9</td><td>56.3</td></tr></tbody></table>

## Florence 2の推論速度

次で測定したレイテンシー [Roboflow Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) 1基のNVIDIA L4、バッチサイズ1で、greedyデコードを用いてちょうど128トークンを生成した場合の `<CAPTION>` プロンプト。遅延は出力長に比例するため、他の長さはトークン/秒で見積もってください。

<table data-search="false"><thead><tr><th>別名</th><th>レイテンシ、128トークン（ms）</th><th>トークン/秒</th></tr></thead><tbody><tr><td><code>florence-2-base</code></td><td>652</td><td>198</td></tr><tr><td><code>florence-2-large</code></td><td>1120</td><td>115</td></tr></tbody></table>

## Florence 2 API

Florence 2は共通の `/infer/lmm` エンドポイントで実行されます。HTTPエンドポイントを直接呼び出し、 `curl`、または [`inference-sdk`](https://docs.roboflow.com/reference/inference/inference-sdk) ラッパーを使用します。

{% tabs %}
{% tab title="HTTP（curl）" icon="webhook" %}
{% stepper %}
{% step %}

### APIキーを取得する

Roboflow アカウントを作成し、 [Roboflow API 設定ページ](https://app.roboflow.com/settings/api) でキーを見つけ、シェルで利用できるようにします。

```bash
export ROBOFLOW_API_KEY="your-key-here"
```

{% endstep %}

{% step %}

### モデルを実行する

次を呼び出します `/infer/lmm` タスクプロンプトを使ってエンドポイントを `curl`:

```bash
curl --location 'https://serverless.roboflow.com/infer/lmm' \\
  --header 'Content-Type: application/json' \\
  --header "Authorization: Bearer $ROBOFLOW_API_KEY" \\
  --data '{
    "image": {"type": "url", "value": "https://media.roboflow.com/quickstart/dog.jpeg"},
    "model_id": "florence-2-base",
    "prompt": "<CAPTION>"
  }'
```

{% endstep %}
{% endstepper %}
{% endtab %}

{% tab title="SDK（Python）" icon="python" %}
{% stepper %}
{% step %}

### APIキーを取得する

Roboflow アカウントを作成し、 [Roboflow API 設定ページ](https://app.roboflow.com/settings/api) でキーを見つけ、シェルで利用できるようにします。

```bash
export ROBOFLOW_API_KEY="your-key-here"
```

{% endstep %}

{% step %}

### 依存関係をインストールする

このパッケージは次のモデルを呼び出します:

```bash
pip install -U inference-sdk supervision
```

{% endstep %}

{% step %}

### モデルを実行する

タスクプロンプトを使ってLMM推論エンドポイントを呼び出します:

```python
import os
import supervision as sv
from inference_sdk import InferenceHTTPClient, InferenceConfiguration

image = sv.load_image_from_url("https://media.roboflow.com/quickstart/dog.jpeg")

client = InferenceHTTPClient(
    api_url="https://serverless.roboflow.com",
    api_key=os.environ["ROBOFLOW_API_KEY"],
).configure(InferenceConfiguration(api_key_transport="header"))

result = client.infer_lmm(
    inference_input=image,
    model_id="florence-2-base",
    prompt="<CAPTION>",
)

print(result["response"])  # {'<CAPTION>': 'A man carrying a dog on his back.'}
```

<figure><img src="/files/2426d02666c822a5493a718b90849c4f77e4c7d7" alt=""><figcaption></figcaption></figure>
{% endstep %}
{% endstepper %}
{% endtab %}
{% endtabs %}

{% hint style="info" %}
設定する `api_url` をデプロイ先に合わせます:

* `https://serverless.roboflow.com` サーバーレスクラウドAPI用。
* `http://localhost:9001` ローカルの [Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) サーバー用。
* あなたの [Dedicated Deployment](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) プライベートエンドポイント用のURL。
  {% endhint %}

置き換えてください `<CAPTION>` 任意の対応タスクプロンプト（たとえば `<DETAILED_CAPTION>`, `<OD>`, `<OCR>`, `<OPEN_VOCABULARY_DETECTION>`, `<REFERRING_EXPRESSION_SEGMENTATION>`）を使用して、キャプション、検出、OCR、セグメンテーションの各タスクを切り替えます。

セルフホスト型デプロイとタスクプロンプトの全一覧については、 [推論ドキュメント](https://docs.roboflow.com/deployment/self-hosted/self-hosted).

## Florence 2のタスクプロンプト

Florence 2はプロンプトトークンでタスクを切り替えます。次のいずれかを `プロンプト`:

| タスク            | プロンプト                                                        |
| -------------- | ------------------------------------------------------------ |
| 物体検出           | `<OD>`                                                       |
| 密な領域のキャプション生成  | `<DENSE_REGION_CAPTION>`                                     |
| 画像キャプション生成     | `<CAPTION>`, `<DETAILED_CAPTION>`, `<MORE_DETAILED_CAPTION>` |
| 領域提案           | `<REGION_PROPOSAL>`                                          |
| フレーズグラウンディング   | `<CAPTION_TO_PHRASE_GROUNDING>`                              |
| 参照表現セグメンテーション  | `<REFERRING_EXPRESSION_SEGMENTATION>`                        |
| 領域からセグメンテーションへ | `<REGION_TO_SEGMENTATION>`                                   |
| オープン語彙検出       | `<OPEN_VOCABULARY_DETECTION>`                                |
| 領域から説明へ        | `<REGION_TO_DESCRIPTION>`                                    |
| OCR            | `<OCR>`                                                      |
| 領域付きOCR        | `<OCR_WITH_REGION>`                                          |

## セルフホスト型InferenceでFlorence 2を実行する

Florence 2は次を使って直接読み込むこともできます [`inference`](https://docs.roboflow.com/deployment/self-hosted/self-hosted) パッケージ。

{% stepper %}
{% step %}

### パッケージをインストールする

```bash
pip install "inference[transformers]"
```

使用する `inference-gpu[transformers]` GPUマシンでは。
{% endstep %}

{% step %}

### モデルを実行する

```python
from inference import get_model

model = get_model("florence-2-base", api_key="YOUR_API_KEY")

result = model.infer(
    "https://media.roboflow.com/inference/seawithdock.jpeg",
    prompt="<CAPTION>",
)

print(result[0].response)
```

置き換えてください `<CAPTION>` 上の表にある任意のタスクプロンプトで。
{% endstep %}
{% endstepper %}

### Workflowsの実行モード

次の環境で使用する場合： [Workflow](https://docs.roboflow.com/workflows)、Florence 2は次の2つのモードのいずれかで動作します：

* **ローカル実行**：モデルはInferenceサーバー上で実行されます（GPU推奨）。
* **リモート実行**：モデルはリモートのInferenceサーバー上でHTTP経由で呼び出されます。