> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/reference/ja/inference/inference-python.md).

# Inference Python パッケージ

inference Python パッケージ: モデルの読み込み、自分のプロセスでの推論、Workflows の実行、動画ストリーミング。

この `inference` Python パッケージは、Roboflow のコンピュータビジョン展開スタックを支える中核のオープンソースライブラリです。モデルの読み込み、前処理/後処理、GPU/CPU 最適化を提供し、 [Workflows](https://docs.roboflow.com/workflows) の実行を Python から直接呼び出せます。

この [Inference Server](https://docs.roboflow.com/deployment/self-hosted/inference-server) はこのパッケージをラップし、HTTP で公開します（依存関係をすべてインストールした Docker イメージとして配布されます）が、 `inference` 自分のスクリプトやアプリケーションで直接使用することもできます。

## 各要素の関係

Inference には、コンピュータビジョンモデルを提供するために連携する複数のコンポーネントがあります。

* [**inference**](https://docs.roboflow.com/reference/ja/inference/inference-python.md) - モデルの読み込み、推論、Workflows の実行を行うコア Python パッケージ。
* [**inference-sdk**](https://docs.roboflow.com/reference/ja/inference/inference-sdk.md) - Inference Server と HTTP 経由で通信するための軽量 Python クライアント。
* [**inference-cli**](https://docs.roboflow.com/reference/ja/inference/inference-cli.md) - Inference Server の管理や一般的なタスクの実行を行うコマンドラインツール。
* [**Inference Server**](https://docs.roboflow.com/deployment/self-hosted/inference-server) - HTTP サーバー（Docker）が `inference` このパッケージを REST API として公開します。

これらの要素が実行時にどのように動作するか（リクエストルーティング、並列化、マイクロサービスおよびアプライアンスのパターン）については、 [Inference アーキテクチャ](https://docs.roboflow.com/deployment/self-hosted/inference-server/architecture).

## マルチバックエンド対応

Inference 1.0 は、ONNX、TensorRT、Hugging Face、PyTorch という複数の推論ランタイムバックエンドをサポートします。ハードウェアで利用可能な最速のバックエンドを自動的に選択します。たとえば、NVIDIA GPU を搭載している場合、または Jetson デバイス上で実行していて、プラットフォーム上でそのモデルに対する TensorRT エンジンが利用可能な場合、Inference は既定で TensorRT を使用します。

## インストール

おすすめするのは [Python 仮想環境（venv）](https://docs.python.org/3/tutorial/venv.html) を使って Inference の依存関係を分離することです。

pip で Inference をインストールするには:

```bash
pip install inference
```

NVIDIA GPU がある場合は、次で推論を高速化できます:

```bash
pip install --extra-index-url https://download.pytorch.org/whl/cu124 inference-gpu
# OS にインストールされている CUDA のバージョンに合わせて --extra-index-url を調整してください
# https://download.pytorch.org/whl/cu<major><minor>、たとえば CUDA 13.0 なら https://download.pytorch.org/whl/cu130
```

## クイック例

Inference Server に対して HTTP 経由で（ `inference-sdk`）またはプロセス内で直接（ネイティブな `inference` パッケージを使って）推論を実行できます。ネイティブな `get_model()` 呼び出しはモデルをスクリプトに読み込み、 `.infer()` を呼び出せるオブジェクトを返します。HTTP クライアントは同じ処理を行うサーバーに画像を送信します。

{% tabs %}
{% tab title="inference（ネイティブ）" %}

```python
from inference import get_model

model = get_model(model_id="rfdetr-small")
results = model.infer("https://media.roboflow.com/inference/people-walking.jpg")
```

{% endtab %}

{% tab title="inference-sdk（HTTP クライアント）" %}

```python
from inference_sdk import InferenceHTTPClient, InferenceConfiguration

client = InferenceHTTPClient(
    # api_url="http://localhost:9001",  # self-hosted 用
    api_url="https://serverless.roboflow.com",
    api_key="ROBOFLOW_API_KEY",
).configure(InferenceConfiguration(api_key_transport="header"))
results = client.infer(
    "https://media.roboflow.com/inference/people-walking.jpg",
    model_id="rfdetr-small",
)
```

{% endtab %}
{% endtabs %}

API キーが必要なモデルを使用するには、 `ROBOFLOW_API_KEY` 環境変数を設定するか、直接渡してください:

```python
model = get_model(model_id="my-project/1", api_key="ROBOFLOW_API_KEY")
```

参照してください [ネイティブ Python API](https://docs.roboflow.com/reference/ja/inference/inference-python/native-python-api.md) ページでは、可視化を含むより詳しい手順を説明しています。また、 [モデルを実行](https://docs.roboflow.com/deployment/self-hosted/self-hosted#run-model-locally) ではサーバーベースの方法を扱っています。

## 推論パイプライン

`InferencePipeline` は、動画を `inference` パッケージと同じ Python プロセス内で実行します。直接 Inference ライブラリを実行することを選び、独自ロジックや sink インターフェースにアクセスする必要がある場合にのみ使用してください。自己ホストの Inference Server で動画を扱う場合は、 [WebRTC ストリーミング](https://docs.roboflow.com/reference/ja/inference/inference-sdk/webrtc.md)を使用してください。独自の Inference ランタイムを実行せずにマネージドなライブカメラ処理を行う場合は、 [クラウド ストリーミング](https://docs.roboflow.com/deployment/roboflow-cloud/cloud-streaming).

```python
from inference import InferencePipeline
from inference.core.interfaces.stream.sinks import render_boxes

pipeline = InferencePipeline.init(
    model_id="rfdetr-large",
    video_reference="https://storage.googleapis.com/com-roboflow-marketing/inference/people-walking.mp4",
    on_prediction=render_boxes,
    api_key="ROBOFLOW_API_KEY",
)

pipeline.start()
pipeline.join()
```

上記のコードは、オブジェクト検出のアノテーションを直接行います（ `render_boxes` シンク経由で）。詳細は、 [推論パイプライン](https://docs.roboflow.com/reference/ja/inference/inference-python/inference-pipeline.md) のページを参照してください。

## 貢献

Inference はオープンソースです。ソースコード、Issue トラッカー、貢献ガイドは [roboflow/inference](https://github.com/roboflow/inference) リポジトリにあります。 [CONTRIBUTING.md](https://github.com/roboflow/inference/blob/main/CONTRIBUTING.md) を見て始めてください。

## 次のステップ

* [ネイティブ Python API](https://docs.roboflow.com/reference/ja/inference/inference-python/native-python-api.md) - 自分のプロセス内でモデルを読み込み、推論を実行する。
* [推論パイプライン](https://docs.roboflow.com/reference/ja/inference/inference-python/inference-pipeline.md) - 動画ストリーム上でモデルを実行する。
* [モデル重みのダウンロード](https://docs.roboflow.com/reference/ja/inference/inference-python/offline-weights.md) - 重みのキャッシュと永続ストレージ。
* [ベンチマーク](https://docs.roboflow.com/reference/ja/inference/inference-python/benchmarks.md) - 一般的なハードウェアで測定したスループット。
