> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ja/self-hosted/inference-library.md).

# Inference ライブラリ

サーバーも HTTP の往復もなしで、inference パッケージを使って自分の Python プロセス内で直接モデルを実行します。

この `inference` Pythonパッケージはモデルを読み込み、同じプロセス内で実行します。起動するコンテナも、コードとモデル間のHTTPリクエストもないため、セルフホストで最も低レイテンシーであり、既存のPythonアプリケーションにも最も簡単に組み込めます。

アプリケーションがPython製で、モデルと同じマシン上で動作する場合に使用してください。複数のクライアント、言語、動画ストリームから予測を実行する必要がある場合や、アプリケーションの依存関係からモデルを分離したい場合は、代わりに [Inference Server](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server.md) を実行してください。どちらも同じ `model_id` の値を受け付けるため、後から切り替えるのも簡単です。

## インストール

```bash
pip install inference
```

NVIDIA GPUを使用している場合は、代わりに `inference-gpu` をインストールします。

```bash
pip install --extra-index-url https://download.pytorch.org/whl/cu124 inference-gpu
```

\--extra-index-url `の値は、OSにインストールされているCUDAのバージョンに合わせてください。` ： `https://download.pytorch.org/whl/cu<major><minor>`。たとえば、CUDA 13.0の場合は `https://download.pytorch.org/whl/cu130` を指定します。GPU版のインストールには、OSにCUDAが必要です。環境に必要な依存関係がない場合は、 [Linux](https://docs.nvidia.com/cuda/cuda-installation-guide-linux/) または [Windows](https://docs.nvidia.com/cuda/cuda-installation-guide-microsoft-windows/) のCUDAインストールガイドを参照してください。

inference `1.2.0以降では、新しい推論エンジン（` inference-models`）がデフォルトです。TensorRTを含む複数のモデルバックエンドに対応しており、ハードウェアで利用可能なもののうち、最も高速なものを選択します。`は、 `1.2.0以降では、新しい推論エンジン（` torch `および` onnx `モデルに必要なものをインストールします。その他のバックエンドは、パッケージの追加機能からインストールできます。` ：

```bash
pip install inference-models[trt10]
```

WindowsでのCUDAセットアップには追加の手順が必要です。 [WindowsでBare Metal Inference GPUをインストールする](https://docs.roboflow.com/deployment/ja/self-hosted/inference-library/bare-metal-gpu-windows.md).

## モデルを実行する

```python
from inference import get_model

image = "https://media.roboflow.com/inference/people-walking.jpg"
model = get_model(model_id="rfdetr-small")
results = model.infer(image)
```

`get_model()` は初回使用時にモデルの重みをダウンロードしてキャッシュし、その後はローカルで推論を実行します。 `model_id` には、事前学習済みモデルのエイリアス、独自にファインチューニングしたモデル、またはUniverseモデルを指定できます。詳しくは [モデルID](https://docs.roboflow.com/deployment/ja/self-hosted/self-hosted.md#model-ids)を参照してください。ファインチューニング済みモデルとUniverseモデルを使用するには、 [APIキー](https://docs.roboflow.com/reference/authentication/authentication/find-your-roboflow-api-key).

## 結果を可視化する

インストール [Supervision](https://supervision.roboflow.com) 予測結果にアノテーションを付けるには、次のようにします。

```bash
pip install -U supervision
```

```python
import supervision as sv
from inference import get_model

image = sv.load_image_from_url("https://media.roboflow.com/inference/people-walking.jpg")

model = get_model(model_id="rfdetr-medium")
results = model.infer(image)[0]

detections = sv.Detections.from_inference(results)

annotated_image = sv.BoxAnnotator().annotate(scene=image, detections=detections)
annotated_image = sv.LabelAnnotator().annotate(scene=annotated_image, detections=detections)

sv.plot_image(annotated_image)
```

## 動画とワークフロー

多くの動画アプリケーションでは、 [Inference Server](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server.md) を実行し、 [Inference SDK WebRTCクライアント](https://docs.roboflow.com/reference/inference/inference-sdk/webrtc).

Pythonプロセス内でInference Libraryを実行する場合は、 `InferencePipeline` を使うと、サーバーなしでWebカメラ、RTSPカメラ、または動画ファイルを処理できます。このライブラリを直接使うAPIでは、プロセスからフレーム、カスタム推論ロジック、シンクにアクセスできます。詳しくは、 [Inference Pipeline](https://docs.roboflow.com/reference/inference/inference-python/inference-pipeline).

## さらに詳しく

* [Inference Python Packageリファレンス](https://docs.roboflow.com/reference/inference/inference-python) — API全体を網羅しています。
* [ネイティブPython API](https://docs.roboflow.com/reference/inference/inference-python/native-python-api) — サーバーを使わずにモデルを読み込み、ワークフローを実行します。
* [モデル重みのダウンロード](https://docs.roboflow.com/reference/inference/inference-python/offline-weights) — オフライン環境やエアギャップ環境のホスト向けに重みをキャッシュします。
* [Inferenceのベンチマーク](https://docs.roboflow.com/reference/inference/inference-python/benchmarks) — モデルとハードウェア別の実測スループット。
