> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/install/linux.md).

# Linux にインストール

CPU、GPU、または TensorRT 上で、Inference CLI、Docker、または Docker Compose を使って Linux に Roboflow Inference Server をインストールし、実行します。

このページの Docker の例では、localhost のポート 9001 を公開します。別のマシン上のクライアントから接続する場合は、マッピングを意図的に到達可能なホストアドレスに変更し、 [サーバーへのアクセス](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/security.md#restrict-network-access).

お使いのマシンに適したコンテナを、キャッシュボリュームや安全な非特権実行モードなどの適切なデフォルト設定で起動する最も簡単な方法は、CLI に選択と起動を任せることです。次を実行します。 `inference server start`. [Docker をインストールして](https://docs.docker.com/engine/install/) から始めてください。

```bash
pip install inference-cli
inference server start
```

## コンテナを手動で起動する

コンテナ設定をより細かく制御したい場合は、自分で起動してください。

{% tabs %}
{% tab title="CPU" %}
CPU向けのベースDockerイメージには、onnxruntime経由でx64 CPU上のOpenVINOアクセラレーションを利用するためのサポートが含まれています。SAM2のような大規模モデルは、実用には遅すぎる（画像1枚あたり数十秒かかる）場合があります。このようなモデルが必要な場合は、CUDA対応GPUを使用してください。

CPU推論の主な用途は、静止画像の処理（アップロード画像のNSFW分類や書類の検証など）、または動画からフレームを低頻度でサンプリングする処理（駐車場の利用状況の追跡など）です。

CPU推論を始めるには、次の `roboflow/roboflow-inference-server-cpu:latest` コンテナを使用してください。

```bash
sudo docker run -d \
    --name inference-server \
    --read-only \
    -p 127.0.0.1:9001:9001 \
    --volume ~/.inference/cache:/tmp:rw \
    --security-opt="no-new-privileges" \
    --cap-drop="ALL" \
    --cap-add="NET_BIND_SERVICE" \
    roboflow/roboflow-inference-server-cpu:latest
```

{% endtab %}

{% tab title="GPU" %}
GPU コンテナは、NVIDIA-Docker を介して CUDA 対応カードのハードウェアアクセラレーションを有効にします。 [NVIDIA Container Toolkit のインストールガイド](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html)に従い、その後 `--gpus all` を `docker run` コマンドに追加します。

```bash
sudo docker run -d \
    --name inference-server \
    --gpus all \
    --read-only \
    -p 127.0.0.1:9001:9001 \
    --volume ~/.inference/cache:/tmp:rw \
    --security-opt="no-new-privileges" \
    --cap-drop="ALL" \
    --cap-add="NET_BIND_SERVICE" \
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}

{% tab title="TensorRT" %}
GPUコンテナでは、必要に応じて [TensorRT](https://developer.nvidia.com/tensorrt)（NVIDIAのモデル最適化ランタイム）を有効にできます。モデルを読み込むたびに初回は重いコンパイルと最適化処理（15分以上かかることもあります）が必要になりますが、モデルの処理速度が大幅に向上します。

TensorRTを有効にするには、 `TensorrtExecutionProvider` を `ONNXRUNTIME_EXECUTION_PROVIDERS` 環境変数に追加します。

```bash
sudo docker run -d \
    --name inference-server \
    --gpus all \
    --read-only \
    -p 127.0.0.1:9001:9001 \
    --volume ~/.inference/cache:/tmp:rw \
    --security-opt="no-new-privileges" \
    --cap-drop="ALL" \
    --cap-add="NET_BIND_SERVICE" \
    -e ONNXRUNTIME_EXECUTION_PROVIDERS="[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]" \
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}
{% endtabs %}

## Docker Compose

アプリケーションでDocker Composeを使用する場合、同等のYAMLは次のとおりです。

{% tabs %}
{% tab title="CPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-cpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${HOME}/.inference/cache:/tmp:rw"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="GPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${HOME}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="TensorRT" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${HOME}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    環境変数:
      ONNXRUNTIME_EXECUTION_PROVIDERS: "[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
RoboflowのEnterpriseプランでは、 [Helmチャート](https://github.com/roboflow/inference/tree/main/inference/enterprise/helm-chart) 、Kubernetesデプロイ向けのOTネットワーク用ネットワーキングソリューション、カスタマイズされたサポートおよびインストールパッケージをご利用いただけます。 [詳細については、営業チームにお問い合わせください。](https://roboflow.com/sales) 。
{% endhint %}

## 次のステップ

* [モデルを実行](https://docs.roboflow.com/deployment/ja/self-hosted/self-hosted.md#run-model-locally) して、新しいサーバーで推論を行います。
* [Docker の設定オプション](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/docker-configuration.md) ポート、キャッシュ、モデルの上限について。
* [セルフホスト型サーバーを保護](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/security.md) してから、localhost以外に公開してください。
