Inference Server の環境変数

セルフホストの Roboflow Inference サーバーを制御する環境変数 - 実行プロバイダー、キャッシュ、Workflows、Roboflow API の再試行、テレメトリ、HTTPS、セキュリティ。

推論サーバーの動作は、一連の環境変数によって制御されます。各変数は inference/core/env.pyに定義されています；以下の項目は、より詳しい説明が必要な変数です。

コンテナに次のように渡します -e （最もよく変更される設定については Dockerの設定オプション を参照）：

docker run -it --rm -e ENV_VAR_NAME=env_var_value -p 9001:9001 roboflow/roboflow-inference-server-cpu:latest

これらの変数は 推論サーバーを設定します。Roboflow CLI と Python SDK は、別のより少ない数の変数（ROBOFLOW_API_KEY, ROBOFLOW_CONFIG_DIRなど）を読み込みます。参照セクションの 環境変数 を参照してください。

実行プロバイダとモデル

変数	説明	デフォルト
ONNXRUNTIME_EXECUTION_PROVIDERS	優先順の実行プロバイダ一覧です。プロバイダがプラットフォームでサポートされていない場合は警告が表示されます。	参照: env.py
RUNS_ON_JETSON	Inference が Jetson デバイス上で実行されるかどうか。次に設定します True Jetson アーキテクチャ向けのすべての Docker ビルドで。	False
MODEL_VALIDATION_DISABLED	試験推論をスキップすることで、モデルの読み込みを高速化します。	False
SAM2_MAX_EMBEDDING_CACHE_SIZE	GPU メモリに保持される SAM2 埋め込みの数。各埋め込みは 16777216 バイトを使用します。	100
SAM2_MAX_LOGITS_CACHE_SIZE	CPU メモリに保持される SAM2 ロジットの数。各ロジットは 262144 バイトを使用します。	1000
DISABLE_SAM2_LOGITS_CACHE	SAM2 ロジットのキャッシュを無効にします。デバッグやメモリ使用量の最小化に有用ですが、その代わりに同様の繰り返しリクエストが遅くなります。	False

inference-models バックエンド

変数	説明	デフォルト
USE_INFERENCE_MODELS	を選択します。 inference-models バックエンド。	False
MAX_INFERENCE_MODELS_CACHE_SIZE_MB	を有効にします。 inference-models 、ウォッチドッグはモデル成果物（古いものと大きいものを優先）を整理し、時間の経過によるシステムのディスク容量不足を防ぎます。 0USE_INFERENCE_MODELS=True の場合にのみ適用されます。 USE_INFERENCE_MODELS=True.	-1
INFERENCE_MODELS_CACHE_WATCHDOG_INTERVAL_MINUTES	の inference-models キャッシュ・ウォッチドッグの実行頻度です。最小は15分です。	60
ENABLE_CUDA_MEMORY_RECLAMATION_WATCHDOG	キャッシュされているが未使用の CUDA メモリを定期的にドライバへ返すバックグラウンドデーモンを有効にします。 torch.cuda.empty_cache()。PyTorch のキャッシュアロケータは解放されたデバイスブロックを独自のプールに保持し、自動では解放しないため、長時間稼働するサーバーでは、同時推論やバッチ推論のピーク使用量が残り、予約済み VRAM は増え続けます。このウォッチドッグは固定間隔でその余剰を回収します。ライブな割り当てはそのままです。真に過剰に同時要求が来たことによる OOM は防げません。 USE_INFERENCE_MODELS=True CUDA 上でのみ意味があります。	False
CUDA_MEMORY_RECLAMATION_WATCHDOG_INTERVAL_SECONDS	CUDA メモリ・ウォッチドッグの回収サイクル間隔です。最小は 5 秒です（より小さい値は切り上げられます）。これは ENABLE_CUDA_MEMORY_RECLAMATION_WATCHDOG=True.	300

ワークフローとビデオ

変数	説明	デフォルト
ENABLE_WORKFLOWS_PROFILING	サーバーが Workflows のプロファイラトレースをクライアントに返せるようにします。	False
WORKFLOWS_PROFILER_BUFFER_SIZE	プロファイラバッファのサイズ：連続した Workflows Execution Engine run(...) 呼び出しがバッファ内でトレースされます。	64
WORKFLOWS_DEFINITION_CACHE_EXPIRY	Workflow 定義をキャッシュする秒数。これは get_workflow_specification(...).	900 （15分）
ENABLE_STREAM_API	ビデオ管理 API を有効にします。標準の CPU、GPU、TensorRT イメージではこれが Trueに設定されており、JetPack 5.1.1 および 6.2.0 のイメージも同様です。slim イメージと JetPack 6.0.0 および 7.1.0 のイメージでは設定されていません。	False 設定されているイメージ以外では
STREAM_API_PRELOADED_PROCESSES	事前起動されるアイドル状態のビデオワーカーの数です。これにより GPU 上でのワーカー起動時間が短縮されます。	0

Roboflow API 接続

変数	説明	デフォルト
TRANSIENT_ROBOFLOW_API_ERRORS	Roboflow API の HTTP コードのうち、再試行すべきもののカンマ区切りリストです（GET エンドポイントのみ）。	未設定
TRANSIENT_ROBOFLOW_API_ERRORS_RETRIES	一時的エラー（接続エラーおよび一時的な HTTP コード）を再試行する回数です（GET エンドポイントのみ）。	3
TRANSIENT_ROBOFLOW_API_ERRORS_RETRY_INTERVAL	一時的な Roboflow API エラーの再試行間隔です（GET エンドポイントのみ）。	3
RETRY_CONNECTION_ERRORS_TO_ROBOFLOW_API	Roboflow API への接続エラーを再試行するかどうかです（GET エンドポイントのみ）。	False
ROBOFLOW_API_REQUEST_TIMEOUT	Roboflow API へのリクエストに対するタイムアウト（秒、整数）です。	未設定
API_PROXY_BASE_URL	Roboflow API のプロキシリクエストで使用されるベース URL です。 apiproxy/* エンドポイントへ。長時間実行されるサードパーティのプロキシ呼び出しで Firebase Hosting のタイムアウトを回避するため、これを直接 heavy-API Cloud Run サービスのルートに設定してください。	の値 API_BASE_URL
DISABLE_VERSION_CHECK	バックグラウンドスレッドで実行される Inference のバージョンチェックを無効にします。 True 明示的な False） SECURE_GATEWAY が設定されている場合、 api.github.com はゲートウェイの背後では到達不能であるためです。	False
SECURE_GATEWAY	のアドレス Roboflow Secure Gateway によるエアギャップ環境向けの（旧名: LICENSE_SERVER）。Roboflow API とモデルのダウンロード通信をゲートウェイプロキシ経由にし、バージョンチェックを強制的に無効化し、リモートとホスト型が構成されている場合はローカルの Workflow ステップ実行にフォールバックします。詳細は リモート と ホスト型 が構成されている場合はローカルの Workflow ステップ実行にフォールバックします。 Dockerの設定オプション.	未設定

監視とテレメトリ

変数	説明	デフォルト
ENABLE_PROMETHEUS	Prometheus の /metrics エンドポイントを有効にします。詳細は Telemetry.	True Docker Hub イメージ向けの
DOCKER_SOCKET_PATH	コンテナにマウントされた Docker デーモンソケットへのパスです。指定すると、デーモンソケットから Docker コンテナ統計をポーリングできるようになります。詳細は Telemetry.	未設定
METRICS_ENABLED	Roboflow の モデルモニタリング.	True
MODEL_MONITORING_CACHE_BACKEND	モデル監視 pingback データ用のキャッシュバックエンドです。通常のキャッシュ選択に従うには default を使用します（ REDIS_HOST が設定されている場合は Redis、そうでなければメモリ）、あるいは memory を使用してプロセスローカルのバッファリングを強制し、Redis を推論のホットパスから外します。	default

HTTPS

変数	説明	デフォルト
ENABLE_HTTPS	推論サーバーで HTTPS を切り替えます。 True、サーバーは SSL_CERTFILE および SSL_KEYFILE を読み込み、TLS でトラフィックを提供します。参照： HTTPS 経由で Inference を提供する.	False
SSL_CERTFILE	次の場合に提供される PEM エンコードの TLS 証明書へのパス ENABLE_HTTPS=True.	/etc/inference/certs/server.crt
SSL_KEYFILE	に対応する PEM エンコードの TLS 秘密鍵へのパス SSL_CERTFILE.	/etc/inference/certs/server.key
SSL_KEYFILE_PASSWORD	秘密鍵が暗号化されている場合に SSL_KEYFILE を復号するために使用するパスフレーズです。	未設定
SSL_CA_CERTS	クライアント証明書検証（mTLS）が必要な場合に使用される CA バンドルへのパスです。	未設定

認証と入力セキュリティ

変数	説明	デフォルト
WORKSPACES_WHITELISTED_FOR_LOCAL_DEPLOYMENT	このサーバーに対するリクエストの実行を許可された Roboflow ワークスペースの URL スラッグのカンマ区切りリストです。設定すると、docs、ランディングページ、health、liveness、metrics エンドポイントを除くすべてのリクエストは Roboflow API キーで認可されます。	未設定

カスタム Python 実行と URL 画像取得を制御する変数（ALLOW_CUSTOM_PYTHON_EXECUTION_IN_WORKFLOWS, ALLOW_URL_INPUT, ALLOW_URL_TO_NON_GLOBAL_ADDRESSES, VALIDATE_IMAGE_URL_REDIRECTS、その他）は文書化されています セルフホスト型サーバーのセキュリティ保護 および 受け入れられる入力形式.