> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server.md).

# Inference Server

Inference Server とは何か、Docker と Inference CLI での起動方法、組み込みの JupyterLab ノートブックを開く方法。

Inference Server は、次のものをラップするスタンドアロンのマイクロサービスです。 [`inference` Python パッケージ](https://docs.roboflow.com/deployment/ja/self-hosted/inference-library.md)。画像用の HTTP エンドポイントと、動画ストリーム用の WebRTC エンドポイントを提供します。1 台のサーバーで複数のクライアントに対応し、Roboflow のホスト型 API と同じモデルや [Workflows](https://docs.roboflow.com/workflows) を実行できます。セルフホストにはこちらを推奨します。直接ライブラリを実行する場合との比較については、 [方法を選ぶ](https://docs.roboflow.com/deployment/ja/self-hosted/self-hosted.md#pick-a-path) をご覧ください。

## 実行場所

Raspberry Pi、NVIDIA GPU、NVIDIA Jetson、一般的なサーバーなど、ご自身のハードウェア上で [Docker](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install.md)を使ってセルフホストするか、 [ご自身の AWS、GCP、または Azure アカウント](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install/cloud.md)で実行できます。Roboflow も同じサーバーを次のサービスとして提供しています。 [Serverless Cloud API](https://docs.roboflow.com/deployment/ja/roboflow-cloud/serverless-api.md) および [Dedicated Deployments](https://docs.roboflow.com/deployment/ja/roboflow-cloud/dedicated-deployments.md)。詳しくは、 [デプロイオプションの選択](https://docs.roboflow.com/deployment/ja/choosing-a-deployment.md).

どの方法を選んでも、共通のインターフェースを持つ [Inference SDK](https://docs.roboflow.com/reference/inference/inference-sdk)を通じて接続します。変更するのは `api_url` だけです。

## Docker で実行する

開始する前に、お使いのマシンに [Docker がインストールされている](https://www.docker.com/get-started) ことを確認してください。Inference Server を最も簡単に起動する方法は、 [Inference CLI](https://docs.roboflow.com/reference/inference/inference-cli):

```bash
pip install inference-cli && inference server start
```

を使うことです。適切な Docker イメージが取得され、既定ではポート 9001 が `127.0.0.1` で公開されます。Jetson 用イメージと `--tunnel` を指定して起動した場合は、ポートが `0.0.0.0`で公開されます。リモートクライアントからの接続を許可する前に、 [サーバーのセキュリティ](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/security.md#restrict-network-access) をご確認ください。

次のコマンドでサーバーの状態を確認します。

```bash
inference server status
```

## Docker コンテナを手動でセットアップする

`inference server start` は内部で `docker run` を実行し、推奨されるセキュリティ設定、キャッシュ、プラットフォーム固有のオプションを適用します。

コンテナを自分で起動する場合は、お使いのプラットフォームのインストールガイドにある「コンテナを手動で起動する」セクションをご覧ください。

* [Linux](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install/linux.md#manually-starting-the-container)
* [Windows](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install/windows.md#manually-starting-the-container)
* [Mac](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install/mac.md#using-docker)
* [Jetson](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install/jetson.md#manually-starting-the-container)
* [Raspberry Pi](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install/raspberry-pi.md#manually-starting-the-container)

コンテナの設定は環境変数で制御します。詳しくは、 [Docker の設定オプション](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/docker-configuration.md) および環境変数の完全な [リファレンス](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/environment-variables.md).

## 組み込みのJupyterLabノートブック

Inference Serverには、開発やテストの際にすばやく試せる組み込みのJupyterLab環境が付属しています。デフォルトでは無効になっているため、有効にするにはサーバーを `--dev` フラグを付けて起動します：

```bash
pip install inference-cli
inference server start --dev
```

次に、ブラウザーで `http://localhost:9001` を開くと、リソース、サンプル、組み込みのJupyterLab環境へのリンクがあるInferenceのランディングページが表示されます。「Inference対応ノートブックを開く」を選択すると、JupyterLabが新しいタブで開きます。サンプルノートブックと、Inferenceの実行に必要なすべての依存関係があらかじめ用意されています。

{% hint style="warning" %}
この `--dev` ノートブック環境はローカル開発用です。信頼できないネットワークからアクセス可能なサーバーでは有効にしないでください。詳しくは、 [セルフホストサーバーのセキュリティ保護](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/security.md).
{% endhint %}

## 動画をストリーミングする

Inference SDKのWebRTCクライアントを使用すると、ウェブカメラ、カメラフィード、動画ファイルをストリーミングし、独自のInference Server上のモデルやWorkflowで処理できます：

```bash
pip install "inference-sdk[webrtc]"
```

次の設定 `api_url="http://localhost:9001"` を、 `InferenceHTTPClient`の作成時に指定します。詳しくは、 [WebRTCストリーミング](https://docs.roboflow.com/reference/inference/inference-sdk/webrtc) でモデルとWorkflowの例を参照するか、 [Workflowsによる動画処理](https://docs.roboflow.com/workflows/deploy/video-processing) のタスク別ガイドをご覧ください。

## このセクションの内容

<table data-view="cards" data-search="false"><thead><tr><th></th><th></th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Inference Serverをインストールする</strong></td><td>要件、デバイス別のインストールガイド、独自のクラウド、更新について説明します。</td><td><a href="https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install.md">Inference Server をインストール</a></td></tr><tr><td><strong>モデルを実行する</strong></td><td>HTTP経由の最初のリクエスト、モデルID、可視化について説明します。</td><td><a href="https://docs.roboflow.com/deployment/ja/self-hosted/self-hosted.md">Self-Hosted デプロイメント</a></td></tr><tr><td><strong>設定</strong></td><td>コンテナーオプション、環境変数、セキュリティ、HTTPS、テレメトリーについて説明します。</td><td><a href="https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration.md">設定</a></td></tr><tr><td><strong>アーキテクチャ</strong></td><td>リクエスト、動画、Workflowsがサーバーをどのように通過するかを説明します。</td><td><a href="https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/architecture.md">Inference アーキテクチャ</a></td></tr></tbody></table>
