> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ja/serufuhosuto/inference-server.md).

# Inference Server

Inference Server は、次をラップするスタンドアロンのマイクロサービスです [`推論` Python パッケージ](/deployment/ja/serufuhosuto/inference-library.md)。画像向けの HTTP エンドポイントと、動画ストリーム向けの WebRTC エンドポイントを公開します。1つのサーバーで複数のクライアントに対応でき、同じモデルと [Workflows](https://docs.roboflow.com/workflows) Roboflow のホスト型 API と同様です。セルフホストの推奨方法です。詳しくは [進め方を選ぶ](/deployment/ja/serufuhosuto/self-hosted.md#pick-a-path) ライブラリを直接実行する場合との比較を参照してください。

## 実行場所

サーバーを自分のハードウェア（Raspberry Pi、NVIDIA GPU、NVIDIA Jetson、または通常のサーバー）上でセルフホストするには [Docker](/deployment/ja/serufuhosuto/inference-server/install.md)、または [ご自身の AWS、GCP、または Azure アカウント](/deployment/ja/serufuhosuto/inference-server/install/cloud.md)。Roboflow も同じサーバーを次のものとして提供しています [Serverless Hosted API](/deployment/ja/roboflow-cloud/serverless-api.md) および [Dedicated Deployment](/deployment/ja/roboflow-cloud/dedicated-deployments.md)：参照 [デプロイオプションの選択](/deployment/ja/choosing-a-deployment.md).

どれを選んでも、次を通じてそれにアクセスします [Inference SDK](https://docs.roboflow.com/reference/inference/inference-sdk)、なぜなら両者は同じインターフェースを共有しているからです。違いがあるのは `api_url` だけです。

## Docker で実行する

始める前に、次を確認してください [Docker がインストールされている](https://www.docker.com/get-started) あなたのマシンに。Inference Server を起動する最も簡単な方法は、次を使うことです [Inference CLI](https://docs.roboflow.com/reference/inference/inference-cli):

```bash
pip install inference-cli && inference server start
```

これにより、依存関係があらかじめインストールされた、お使いのマシンに適した Docker イメージが取得され、ポート 9001 で Inference Server が起動します。サーバーの状態は次で確認できます：

```bash
inference server status
```

## Docker コンテナを手動でセットアップする

`inference server start` 実行されます `docker run` 内部で推奨のセキュリティ設定、キャッシュ、プラットフォーム固有のオプションを使って。

コンテナを自分で起動したい場合は、プラットフォームのインストールガイドの「コンテナを手動で起動する」セクションを参照してください：

* [Linux](/deployment/ja/serufuhosuto/inference-server/install/linux.md#manually-starting-the-container)
* [Windows](/deployment/ja/serufuhosuto/inference-server/install/windows.md#manually-starting-the-container)
* [Mac](/deployment/ja/serufuhosuto/inference-server/install/mac.md#using-docker)
* [Jetson](/deployment/ja/serufuhosuto/inference-server/install/jetson.md#manually-starting-the-container)
* [Raspberry Pi](/deployment/ja/serufuhosuto/inference-server/install/raspberry-pi.md#manually-starting-the-container)

コンテナ設定は環境変数で制御されます。参照： [Dockerの設定オプション](/deployment/ja/serufuhosuto/inference-server/configuration/docker-configuration.md) および完全な [環境変数リファレンス](/deployment/ja/serufuhosuto/inference-server/configuration/environment-variables.md).

## 内蔵 JupyterLab ノートブック

Inference Server には内蔵の JupyterLab 環境が付属しており、開発やテスト中に試す最も速い方法です。これはデフォルトでは無効になっているため、サーバーを次のオプション付きで起動してください `--dev` フラグで有効にします：

```bash
pip install inference-cli
inference server start --dev
```

次に開きます `http://localhost:9001` ブラウザーで開くと、リソース、例、内蔵 JupyterLab 環境へのリンクがある Inference のランディングページが表示されます。「Jump Into an Inference Enabled Notebook」を選択すると、JupyterLab を新しいタブで開けます。サンプルノートブックと、Inference を実行するために必要な依存関係があらかじめ読み込まれています。

{% hint style="warning" %}
次の `--dev` ノートブック環境はローカル開発向けです。信頼できないネットワークから到達可能なサーバーでは有効にしないでください：参照 [セルフホスト型サーバーのセキュリティ保護](/deployment/ja/serufuhosuto/inference-server/configuration/security.md).
{% endhint %}

## 動画をストリーミングする

Inference SDK の WebRTC クライアントを使って、Web カメラ、カメラ入力、動画ファイルをモデルまたは Workflow 経由でストリーミングします：

```bash
pip install "inference-sdk[webrtc]"
```

設定するのは `api_url="http://localhost:9001"` 作成するときに `InferenceHTTPClient`。「 [WebRTC ストリーミング](https://docs.roboflow.com/reference/inference/inference-sdk/webrtc) モデルおよび Workflow の例については、または次に従ってください [Workflows による動画処理](https://docs.roboflow.com/workflows/deploy/video-processing) タスクベースのガイドを参照してください。

## このセクションでは

<table data-view="cards"><thead><tr><th></th><th></th><th data-hidden data-card-target data-type="content-ref"></th></tr></thead><tbody><tr><td><strong>Inference Server をインストール</strong></td><td>要件、デバイス別のインストールガイド、自分のクラウド、更新。</td><td><a href="/pages/f804574e67da6d1604e7d3e95b79a77a9f8232b9">/pages/f804574e67da6d1604e7d3e95b79a77a9f8232b9</a></td></tr><tr><td><strong>モデルを実行する</strong></td><td>HTTP による最初のリクエスト、モデル ID、可視化。</td><td><a href="/pages/38a82e950c94deae677dec1a6d56434c36681970">/pages/38a82e950c94deae677dec1a6d56434c36681970</a></td></tr><tr><td><strong>設定</strong></td><td>コンテナオプション、環境変数、セキュリティ、HTTPS、テレメトリ。</td><td><a href="/pages/c518c0dafd8cc317838b0798c3eed20485c4214d">/pages/c518c0dafd8cc317838b0798c3eed20485c4214d</a></td></tr><tr><td><strong>アーキテクチャ</strong></td><td>リクエスト、動画、Workflow がサーバーを通ってどのように流れるか。</td><td><a href="/pages/064fce56367077830db6b964e23b91443681c504">/pages/064fce56367077830db6b964e23b91443681c504</a></td></tr></tbody></table>