> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/workflows/ja/burokku/blocks/run-a-model/open-ai-compatible-llm.md).

# OpenAI互換LLM

OpenAI互換の任意のAPIエンドポイントにプロンプトを送信します。

OpenAI互換のAPIエンドポイント（例: ローカルのQwen、vLLM、Ollama、LM Studio、またはOpenAIのチャット補完APIを実装する任意のサービス）にプロンプトを送信します。

## サーバー設定

`OPENAI_COMPATIBLE_ALLOWED_BASE_URLS` デフォルトで `*`、互換性のために任意の宛先を許可します。すべてのリクエストをブロックするには空の値に設定し、宛先を制限するには信頼できるベースURLのカンマ区切りリストを指定します。たとえば: `http://localhost:8000/v1,https://llm.example.com/v1`. A `*` 他のエントリが存在していても、そのエントリは任意の宛先を許可します。それ以外の場合、一致は完全一致（スキーム、ポート、パスを含む）で、末尾のスラッシュは無視されます。認証情報、クエリ文字列、フラグメントを含まないHTTP(S) URLを使用してください。ローカル/プライベートサーバーと通常のHTTPがサポートされています。宛先を制限する場合は、DNSとサービスがワークフローのデータとAPIキーを受信するために信頼できるホストのみを承認してください。リダイレクトは追従されないため、最終的なAPI URLを設定してください。この設定を変更した後はサーバーを再起動してください。ワークフローの入力とセレクタは許可リストを変更できません。

## このブロックの仕組み

1. あなたが指定するのは **ベースURL** (例: `http://localhost:8000/v1`) と **モデル名**.
2. 記述する **指示** - モデルが受け取るテキスト。
3. 以下の下に行を追加して **入力** ステップ出力（画像、検出結果、テキスト）をリクエストに渡すためです。画像入力はbase64でエンコードされ、ビジョンコンテンツのパートとして送信されます。画像のリストは、画像ごとに1つのビジョンパートになります。
4. 画像以外の入力は文字列に変換されます。これらを指示テキストに差し込むには、Instructionフィールドのヘルプテキストに示されているプレースホルダー構文で入力名を参照してください。
5. 必要に応じて **UQL操作を** 適用して、挿入前に入力値を変換します。

## 画像の取り扱い

* 1つの `WorkflowImageData` の値はJPEGでエンコードされ、 `image_url` パートとして送信されます。
* 生のJPEG `bytes` （例: Image Stackブロック由来のもの）は直接送信されます。
* どちらの一覧も複数の `image_url` パートに展開されます。

画像入力が指示テキスト内でも名前で参照されている場合、プレースホルダーはテキストから削除されます。画像はビジョンパートとしてのみ送信されます。

### タイプ識別子

ステップで次の識別子を使用してください `"type"` フィールド: `roboflow_core/openai_compatible@v1` を、ワークフローにステップとして追加します。

### プロパティ

| **名前**                         | **型**                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | **説明**                                                                                              | 参照 |
| ------------------------------ | ----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | --------------------------------------------------------------------------------------------------- | -- |
| `name`                         | `str`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | このステップの一意の識別子を入力してください。                                                                             | ❌  |
| `base_url`                     | `str`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | /v1を含むOpenAI互換サーバーのURL。\*..を含んでいない限り、サーバーのOPENAI\_COMPATIBLE\_ALLOWED\_BASE\_URLS設定に記載されている必要があります。 | ✅  |
| `model_name`                   | `str`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | サーバーに送信されるモデル識別子。                                                                                   | ✅  |
| `api_key`                      | `str`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | APIキー。エンドポイントで必要な場合。                                                                                | ✅  |
| `system_prompt`                | `str`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | モデルの挙動を設定する任意のシステムメッセージ。                                                                            | ✅  |
| `prompt`                       | `str`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | モデルに送信されるテキスト。                                                                                      | ✅  |
| `prompt_parameters`            | `Dict[str, Union[bool, float, int, str]]`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         | リクエストに含めるステップ出力（画像またはテキスト）。                                                                         | ✅  |
| `prompt_parameters_operations` | `Dict[str, List[Union[ClassificationPropertyExtract, ConvertDictionaryToJSON, ConvertImageToBase64, ConvertImageToJPEG, DetectionsFilter, DetectionsOffset, DetectionsPropertyExtract, DetectionsRename, DetectionsSelection, DetectionsShift, DetectionsToDictionary, Divide, ExtractDetectionProperty, ExtractFrameMetadata, ExtractImageProperty, LookupTable, Multiply, NumberRound, NumericSequenceAggregate, PickDetectionsByParentClass, RandomNumber, SequenceAggregate, SequenceApply, SequenceElementsCount, SequenceJoin, SequenceLength, SequenceMap, SortDetections, StringMatches, StringSubSequence, StringToLowerCase, StringToUpperCase, TimestampToISOFormat, ToBoolean, ToNumber, ToString]]]` | 使用前に入力へ適用する任意のUQL操作。                                                                                | ❌  |
| `max_tokens`                   | `int`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             | モデルが生成できる最大トークン数。                                                                                   | ❌  |
| `temperature`                  | `float`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                           | サンプリング温度、0.0から2.0まで。                                                                                | ✅  |
| `extra_body`                   | `Dict[Any, Any]`                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                  | OpenAI SDKのextra\_body引数として転送される追加JSON。                                                             | ❌  |

この **参照** この列は、 `workflow` の実行時に利用可能な動的値でプロパティをパラメータ化できる可能性を示します。 *バインディング* の詳細を参照してください。

### 実行時互換性

`requires_internet` - エアギャップ／オフライン展開: このブロックは、完全オフライン／エアギャップ展開からは到達できないサービスに依存します。

### 入力および出力バインディング

利用可能な接続は、そのバインディング種別に依存します。 `OpenAI互換LMM` バージョン `v1` に、どのバインディング種別があるか確認してください。

<details>

<summary>入力と出力のバインディング</summary>

* input
  * `base_url` ([*`string`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/string.md)): /v1を含むOpenAI互換サーバーのURL。\*..を含んでいない限り、サーバーのOPENAI\_COMPATIBLE\_ALLOWED\_BASE\_URLS設定に記載されている必要があります。
  * `model_name` ([*`string`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/string.md)): サーバーに送信されるモデル識別子。
  * `api_key` (*Union\[*[*`secret`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/secret.md)*,* [*`string`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/string.md)*]*): APIキー。エンドポイントで必要な場合。
  * `system_prompt` ([*`string`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/string.md)): モデルの挙動を設定する任意のシステムメッセージ。
  * `prompt` ([*`string`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/string.md)): モデルに送信されるテキスト。
  * `prompt_parameters` ([*`*`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/wildcard.md)): リクエストに含めるステップ出力（画像またはテキスト）。
  * `temperature` ([*`float`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/float.md)): サンプリング温度、0.0から2.0まで。
* output
  * `output` (*Union\[*[*`string`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/string.md)*,* [*`language_model_output`*](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/language-model-output.md)*]*) : 文字列値、もし `string` 、またはLLM/VLMの出力、もし `language_model_output`.
  * `error_status` ([`string`](https://docs.roboflow.com/workflows/ja/gaido/developer-guide/kinds/string.md)): 文字列値。

</details>

<details>

<summary>JSON定義の例</summary>

```json
{
	    "name": "<your_step_name_here>",
	    "type": "roboflow_core/openai_compatible@v1",
	    "base_url": "http://localhost:8000/v1",
	    "model_name": "Qwen/Qwen2.5-VL-7B-Instruct",
	    "api_key": "xxx-xxx",
	    "system_prompt": "あなたは役立つアシスタントです。",
	    "prompt": "画像に何が写っているか説明してください。",
	    "prompt_parameters": {
	        "detections": "$steps.model.predictions",
	        "frames": "$steps.image_stack.frames"
	    },
	    "prompt_parameters_operations": {
	        "detections": [
	            {
	                "property_name": "class_name",
	                "type": "DetectionsPropertyExtract"
	            }
	        ]
	    },
	    "max_tokens": "<block_does_not_provide_example>",
	    "temperature": "<block_does_not_provide_example>",
	    "extra_body": {
	        "chat_template_kwargs": {
	            "enable_thinking": false
	        },
	        "guided_choice": [
	            "A",
	            "B",
	            "C",
	            "D"
	        ]
	    }
	}
```

</details>
