Raspberry Pi にインストール

Docker を使って 64 ビットの Raspberry Pi 4 または 5 に Roboflow Inference Server をインストールし、期待できる性能を説明します。

このページの Docker の例では、ポート 9001 を localhost に公開しています。別のマシン上のクライアントの場合は、意図的にマッピングを到達可能なホストアドレスに変更し、設定してください サーバーアクセス.

推論は Raspberry Pi 4 Model B と Raspberry Pi 5 で動作します。ただし、使用するのは オペレーティングシステムの64ビット版. SD カードの容量が十分にある場合は、64ビット版の「デスクトップと推奨ソフトウェア付き Raspberry Pi OS」を推奨します。

64ビット OS をインストールしたら、 Docker をインストールしますその後、Inference CLI を使用して適切な Inference Docker コンテナを自動的に選択、設定、起動します:

pip install inference-cli
inference server start

デフォルトでは、このデバイスからのみサーバーにアクセスできます。 inference server start ポートを公開します 9001 上の 127.0.0.1、そのため同じネットワーク上のラップトップや他のホストからの要求は拒否されます。LAN 経由でアクセスするには、次のように起動します inference server start --bind-address 0.0.0.0 （またはコンテナのポートを次のように公開し -p 0.0.0.0:9001:9001） - そして セルフホストサーバーの保護 まずお読みください。デフォルトではサーバーに認証がなく、Workflows のカスタム Python ブロックを実行するためです。

ハードウェア アクセラレーション

Inference はまだ Raspberry Pi 上のハードウェア アクセラレーションをサポートしていません。"Roboflow 3.0 Fast" の物体検出モデル（"nano" サイズの YOLO モデルに相当）では、Pi 4 で約 1 FPS、Pi 5 で約 4 FPS 程度になると見込んでください。

Segment Anything のような大きなモデルや、Florence-2 のような VLM は、Pi の計算性能では厳しいでしょう。より高いフレームレートやより大きなモデルが必要な場合は、 NVIDIA Jetson.

コンテナを手動で起動する

コンテナ設定をより細かく制御したい場合は、自分で起動してください:

sudo docker run -d \\
    --name inference-server \\
    --read-only \\
    -p 127.0.0.1:9001:9001 \
    --volume ~/.inference/cache:/tmp:rw \\
    --security-opt="no-new-privileges" \\
    --cap-drop="ALL" \\
    --cap-add="NET_BIND_SERVICE" \\
    roboflow/roboflow-inference-server-cpu:latest

Docker Compose

アプリケーションで Docker Compose を使用している場合、同等の YAML は次のとおりです:

version: "3.9"

services:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-cpu:latest

    read_only: true
    ports:
      - "127.0.0.1:9001:9001"

    volumes:
      - "${HOME}/.inference/cache:/tmp:rw"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE

Roboflow Enterprise プランには Kubernetes デプロイメント用の Helm チャート Kubernetes デプロイメント、OT ネットワーク向けのネットワーキングソリューション、カスタマイズされたサポートおよびインストールパッケージ向けです。 営業チームにお問い合わせください 詳細をご確認ください。

次の手順

• モデルを実行する 新しいサーバーに対して。

• Docker の設定オプション ポート、キャッシュ、モデルの上限について。

• セルフホストサーバーの保護 localhost の外に公開する前に。