Ctrlk
Sign InBook a DemoGet Started
For the complete documentation index, see llms.txt. This page is also available as Markdown.

Inference Server を制御

inference server コマンドを使って、ローカルの Roboflow Inference Server を起動、設定、確認、停止します。

この inference server コマンドは、Inference を公開する HTTP サーバーの周りに制御レイヤーを提供します。

コマンドの詳細を確認するには、次を実行します:

inference server --help

各サブコマンドについてもヘルプガイドがあります:

inference server start --help

inference server start

ローカルの Inference Server を起動します。オプションでポート番号を指定できます（デフォルトは 9001）し、そのポートですでにコンテナが実行中でない場合にのみ Docker コンテナを起動します。

代わりに Google Cloud や Amazon Cloud の仮想マシン上でサーバーを実行したい場合は、 クラウドにデプロイ.

始める前に、お使いのマシンに Docker がインストールされていることを確認してください。Docker はコンテナ化された環境を提供し、ホストシステムに関係なく Inference Server を一貫して分離された方法で実行できるようにします。まだ Docker をインストールしていない場合は、 Docker 公式サイト.

CLI は実行中のデバイスを自動的に検出し、適切な Docker イメージを取得します。

inference server start --port 9001 [-e {optional_path_to_file_with_env_variables}]

パラメータ --env-file (または -e) は、 .env ファイルへのオプションのパスであり、内部パラメータの値を調整する必要がある場合に Inference Server に読み込まれます。コマンドパラメータとして明示的に渡された値はより重要と見なされ、 .env ファイルで同じターゲット変数名に定義された値を上書きします。

ボリュームのマウント

次を使用します --volume (または -v) フラグを使用して、ホストのディレクトリをコンテナにマウントします。これは、Workflows によって書き込まれたファイル（たとえば local_file_sink ブロック経由）をローカルマシンに保存しておくのに便利です。

inference server start --volume /host/path:/container/path

フラグを繰り返すことで、複数のボリュームをマウントできます:

オプションの :ro サフィックスを付けると、ボリュームは読み取り専用としてマウントされます。省略した場合は、読み書き可能としてマウントされます。

開発モード

次を使用します --dev フラグを使用して、Inference Server を開発モードで起動します。開発モードでは、テストや開発を簡単に行えるように、Inference Server に組み込みのノートブック環境が有効になります。

アクセスしてください localhost:9001 をブラウザで開いて、リソースやサンプルへのリンクがある Inference のランディングページを表示します。ランディングページから「Jump Into an Inference Enabled Notebook」を選択すると、新しいタブで組み込みの JupyterLab 環境が開きます。サンプルノートブックと、Inference を実行するために必要なすべての依存関係があらかじめ読み込まれています。

トンネル

次を使用します --tunnel フラグを使用して、TLS 対応エンドポイントで外部リクエストに Inference を公開するトンネル付きで Inference Server を起動します。

ランダムに生成されたアドレスは、サーバー起動時の出力に表示されます:

inference server status

ローカル Inference Server の状態を確認します。

inference server stop

Inference Server を停止します。

前へ予測を実行次へWorkflows を実行

最終更新

役に立ちましたか？