> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ja/serufuhosuto/inference-server/install/linux.md).

# Linux にインストール

お使いのマシンに適した正しいコンテナを、良いデフォルト設定（キャッシュ用ボリュームと、安全な非特権実行モード）で起動する最も簡単な方法は、CLI に選択させて次で起動することです `inference server start`. [Docker をインストール](https://docs.docker.com/engine/install/) まず：

```bash
pip install inference-cli
inference server start
```

## コンテナを手動で起動する

コンテナー設定をさらに細かく制御したい場合は、自分で起動してください。

{% tabs %}
{% tab title="CPU" %}
コア CPU Docker イメージには、onnxruntime を介した x64 CPU 上での OpenVINO アクセラレーションのサポートが含まれています。SAM2 のような重いモデルは、実用にならないほど遅く（画像 1 枚あたり数十秒）、もし必要なら CUDA 対応 GPU を使用してください。

CPU 推論の主なユースケースは、静止画像の処理（たとえばアップロードの NSFW 分類や書類の検証）や、動画からのフレームのまれなサンプリング（たとえば駐車場の混雑状況の追跡）です。

CPU 推論を始めるには、を使用してください `roboflow/roboflow-inference-server-cpu:latest` コンテナー。

```bash
sudo docker run -d \\
    --name inference-server \\
    --read-only \\
    -p 9001:9001 \\
    --volume ~/.inference/cache:/tmp:rw \\
    --security-opt="no-new-privileges" \\
    --cap-drop="ALL" \\
    --cap-add="NET_BIND_SERVICE" \\
    roboflow/roboflow-inference-server-cpu:latest
```

{% endtab %}

{% tab title="GPU" %}
GPU コンテナは、NVIDIA-Docker を介して CUDA をサポートするカードにハードウェアアクセラレーションを追加します。以下に従ってください [NVIDIA Container Toolkit のインストールガイド](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html)、その後に `--gpus all` を `docker run` コマンド:

```bash
sudo docker run -d \\
    --name inference-server \\
    --gpus all \
    --read-only \\
    -p 9001:9001 \\
    --volume ~/.inference/cache:/tmp:rw \\
    --security-opt="no-new-privileges" \\
    --cap-drop="ALL" \\
    --cap-add="NET_BIND_SERVICE" \\
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}

{% tab title="TensorRT" %}
GPU コンテナーでは、必要に応じて [TensorRT](https://developer.nvidia.com/tensorrt)、NVIDIA のモデル最適化ランタイムを有効にできます。各モデルを初めて読み込む際に重いコンパイルと最適化の工程（場合によっては 15 分以上）が発生する代わりに、モデルの速度を大幅に向上させます。

次を追加して TensorRT を有効にします `TensorrtExecutionProvider` を `ONNXRUNTIME_EXECUTION_PROVIDERS` 環境変数を有効にできます。

```bash
sudo docker run -d \\
    --name inference-server \\
    --gpus all \
    --read-only \\
    -p 9001:9001 \\
    --volume ~/.inference/cache:/tmp:rw \\
    --security-opt="no-new-privileges" \\
    --cap-drop="ALL" \\
    --cap-add="NET_BIND_SERVICE" \\
    -e ONNXRUNTIME_EXECUTION_PROVIDERS="[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]" \\
    roboflow/roboflow-inference-server-gpu:latest
```

{% endtab %}
{% endtabs %}

## Docker Compose

アプリケーションで Docker Compose を使う場合、同等の YAML は次のとおりです。

{% tabs %}
{% tab title="CPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-cpu:latest

    read_only: true
    ports:
      - "9001:9001"

    volumes:
      - "${HOME}/.inference/cache:/tmp:rw"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="GPU" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "9001:9001"

    volumes:
      - "${HOME}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}

{% tab title="TensorRT" %}

```yaml
version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-gpu:latest

    read_only: true
    ports:
      - "9001:9001"

    volumes:
      - "${HOME}/.inference/cache:/tmp:rw"

    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

    environment:
      ONNXRUNTIME_EXECUTION_PROVIDERS: "[TensorrtExecutionProvider,CUDAExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE
```

{% endtab %}
{% endtabs %}

{% hint style="info" %}
Roboflow Enterprise プランでは次が追加されます [Helm チャート](https://github.com/roboflow/inference/tree/main/inference/enterprise/helm-chart) Kubernetes デプロイメント、OT ネットワーク向けのネットワークソリューション、およびカスタマイズされたサポートとインストールパッケージ向けです。 [営業チームにお問い合わせください](https://roboflow.com/sales) 詳細はこちら。
{% endhint %}

## 次の手順

* [モデルを実行する](/deployment/ja/serufuhosuto/self-hosted.md#run-a-model) 新しいサーバーに対して。
* [Dockerの設定オプション](/deployment/ja/serufuhosuto/inference-server/configuration/docker-configuration.md) ポート、キャッシュ、モデル制限用の。
* [セルフホスト型サーバーのセキュリティ保護](/deployment/ja/serufuhosuto/inference-server/configuration/security.md) localhost の外部に公開する前に。