デプロイオプションの選択

Roboflow のデプロイオプション - Serverless Cloud API、Dedicated Deployments、Batch Processing、Self-Hosted Inference、エッジデバイス - を比較し、ユースケースに適したものを選びます。

Roboflow では、モデルを実行するいくつかの方法を提供しています Workflows、完全管理型のクラウド API から自前のハードウェア上での推論まで。適切な選択は、ワークロードがリアルタイムか一括処理か、許容できるレイテンシはどれくらいか、データをどこに置けるか、どれだけのインフラを管理したいかによって決まります。

表を使って一目でオプションを比較し、その後は下の意思決定フローに従って絞り込んでください。

Roboflow Cloud

Roboflow がインフラを管理します。データを API エンドポイントに送信すると、予測結果が返ってきます。

	Serverless Cloud API	専用デプロイメント	バッチ処理
実行場所	Roboflow Cloud (serverless.roboflow.com)	Roboflow が管理するプライベートクラウドサーバー (*.roboflow.cloud)	ジョブごとにインフラが自動プロビジョニングされる Roboflow Cloud
GPU	はい: GPU で高速化され、自動スケーリングします	CPU (dev-cpu / prod-cpu) または GPU (dev-gpu / prod-gpu)	ジョブごとに選択される CPU または GPU
レイテンシの特性	リアルタイムの同期方式です。まだ読み込まれていないモデルへの最初のリクエストでは、数秒のウォームアップが発生しますが、その後はモデルがキャッシュされている間、以降のリクエストは高速です。	安定した専用性能。デプロイメントは一定期間アイドル状態になると自動停止し（ dev-cpu / dev-gpu)、リクエストを送ると再開します。	非同期で、リアルタイム用途には不向きです。リソースが空いているときにマシンがプロビジョニングされ、通常は数分後ですが、正確な開始時刻は保証されません。
料金	処理時間に基づき、クレジットで推論ごとに従量課金されます。参照: roboflow.com/credits および サーバーレス料金.	時間単位課金で、1分単位で請求されます: GPU は 1 クレジット/時、CPU は 0.25 クレジット/時。リクエストベースの課金は要望に応じて利用可能です。	CPU と GPU の料金は異なります。GPU ジョブはより高速ですが、より高価です。 料金ページ.
リージョン	営業にお問い合わせください ベース API について。The Video Streaming API は us, eu, ap.	米国ベースのデータセンターのみをサポートします。	営業にお問い合わせください.
利用可能なプラン	営業にお問い合わせください.	Core と Enterprise。参照: 料金.	Growth と Enterprise。
最適な用途	デプロイ先のデバイスが常時インターネット接続されている場合に、すぐに開始でき、リアルタイムの単一画像または Workflow 推論を自動的にスケールして処理したいとき。	予測可能な本番ワークロード、リソース分離、GPU 高速化が必要な大規模モデル（例: Florence-2、SAM2）。	Workflow を使って、保存済みの大量の画像や動画をコスト効率よく処理する場合。

セルフホスト

自分のハードウェア上で推論を実行するため、データがネットワーク外に出る必要はありません。

	セルフホスト推論	エッジ（Deployment Manager）
実行場所	自分のハードウェア: エッジデバイス、オンプレミスサーバー、または自分のクラウド（Docker または pip)	Roboflow によってリモート管理される、あなたのエッジデバイス
GPU	CPU、CUDA GPU、または NVIDIA Jetson	デバイスによります（NVIDIA Jetson、NVIDIA GPU 搭載 x86、または Roboflow 提供ハードウェア）
レイテンシの特性	ローカルで、ネットワーク往復のない低レイテンシ。十分なハードウェアがあればリアルタイム対応可能です。	ローカルエッジでリアルタイム。リモート管理と監視のために、デバイスは継続的なインターネット接続が必要です。
料金	無料かつオープンソース: インフラの提供と管理はあなたが行います。プライベートモデル向けの TensorRT 最適化パッケージには Enterprise が必要です。	営業にお問い合わせください.
リージョン	どこでも（自分のインフラ）。	あなたのデバイスの設置場所。
利用可能なプラン	すべてのプラン（オープンソース）。TensorRT のプライベートモデル用パッケージと、複数デバイスで実行するためのライセンスには Enterprise が必要です。	Enterprise のみ。
最適な用途	環境とレイテンシを最大限に制御したいオンプレミス、エッジ、エアギャップ、または VPC に制約されたワークロード。	大規模なエッジデバイス群のセットアップ、デプロイ、監視。

機能の一覧

	サーバーレス	専用	セルフホスト
ファインチューニング済みおよび事前学習済みモデル	はい	はい	はい
Workflows	はい	はい	はい
大規模基盤モデル（SAM2、Florence-2、PaliGemma）	いいえ	はい	はい
クラウドホスト型 VLM（GPT、Claude、Gemini ブロック）	はい	はい	はい
動画ストリーミング	いいえ	はい	はい
カスタム Python ブロックと追加依存関係	いいえ	はい	はい
オフラインで実行	いいえ	いいえ	はい
課金	呼び出しごと	時間ごと	無料＋ 従量課金 クラウド機能

スケールアップの挙動も異なります。Serverless Cloud API はアイドル時にゼロまでスケールし、負荷がかかると数秒のコールドスタートで再びスケールアップします。一方、Dedicated Deployment は起動に 1〜2 分かかります。Ephemeral dev-cpu および dev-gpu デプロイメントは短時間のセッションに制限され、より優先度の高い作業のために容量が必要になると追い出される場合があります。永続的な prod-* タイプは容量が保証され、セッション制限がありません。

自分のクラウドを使う

コンプライアンス上のポリシーでワークロードを自社インフラ内に留める必要がある場合は、自分の AWS、Azure、または GCP アカウントで Inference を実行できます: 参照 自分のクラウドにデプロイ。課金はエッジデバイスでのセルフホストと同じで、マシンについてはクラウドプロバイダーに支払います。

意思決定フロー

1. リアルタイムか一括処理か？ データが到着したらすぐに結果が必要な場合 - ライブ動画、インタラクティブアプリ、リクエストごとの推論 - は、リアルタイムの経路を選んでください。保存済みの画像や動画の大きなバックログを処理しているなら、 バッチ処理.

2. 同期か非同期か？ リアルタイム推論は同期型です。リクエストを送って応答を受け取ります。バッチ処理は非同期型です。ジョブを送信し、完了時に結果を収集するため、正確な開始時刻に依存しないでください。

3. クラウドかオンプレミスか？ データがネットワーク外に出てもよく、管理するインフラをゼロにしたいなら、Roboflow ホストのクラウドオプションを使います。ワークロードをオンプレミス、エッジ、あるいはエアギャップ環境に留める必要があるなら、 セルフホスト推論.

4. 管理ありか、自前管理か？

   • クラウドでは、 専用デプロイメント 予測可能な専用性能や固定された GPU タイプが必要な場合は Serverless Cloud API を選択してください。それ以外は

   • 自分のハードウェアでは、 Deployment Manager （Enterprise）を使うと、Roboflow にエッジデバイス群の管理と監視を任せられます。それ以外は セルフホスト推論 サーバーを自分で管理します。

オプションを選んだら、 本番運用準備チェックリスト エラーハンドリング、再試行、レート制限、レプリカ数の調整については、

Inference と他のデプロイスタックの比較

Roboflow Inference は他のいくつかのツールと重なります。この表では、他のスタックの方が適している場合と、それを選ぶことで何を諦めることになるかを要約しています。

Inference サーバー

ツール	比較	こんな場合に選択
NVIDIA Triton	NVIDIA ハードウェア上で極端に最適化されたパイプラインに焦点を当て、大規模デプロイを行う ML 専門家向けの高性能ツールです。シンプルさや反復速度を犠牲にして生の速度を追求しており、モデルアンサンブルは Workflows よりも硬直的です。	NVIDIA GPU 上での速度を何より重視する、厳密に定義されたプロジェクトに取り組む ML 専門家。
Lightning LitServe	軽量でカスタマイズ可能、かつタスク非依存（NLP、音声、表形式データ、そしてビジョン）なので、コンピュータビジョン向けの機能はそこまで豊富ではなく、組み込みの動画ストリーミングやモデル連結の抽象化もありません。	汎用 ML タスクに取り組んでいて、自分でサーバーを一から作る代わりに、機能豊富な出発点が欲しい場合。
TensorFlow Serving	複数モダリティにわたって TensorFlow に深く投資しているなら良い選択です。セットアップは複雑になり得て、前処理・後処理のような最低限必要な機能がなく、しばしばカスタムコードが必要です。	TensorFlow エコシステムが非常に重要で、その手間を引き受ける意思がある場合。
TorchServe	PyTorch 版に相当し、ビジョン、NLP、表形式データ、音声にわたって PyTorch モデルを提供するのに最適化されています。大規模クラウドデプロイ向けに設計されており、動画ストリーミングのようなビジョン特化機能は少なめです。	PyTorch モデルのデプロイをスケールしながらカスタマイズしたいが、ビジョン特化の機能は不要な場合。
FastAPI または Flask	自作すること。Inference の HTTP インターフェース自体が FastAPI ベースなので、ゼロから始めるということは、すでに解決済みの問題を再発明することになります。	主な目的が、推論サーバー構築の細部を学ぶことなら。

エッジデプロイ

ツール	比較	こんな場合に選択
Edge Impulse	非常に低消費電力のエッジデバイスや組み込みシステムに焦点を当てており、マイクロコントローラーでは特に優れています。TinyML に重点を置いているため、動画処理や最新の最先端モデルにはあまり向いておらず、Workflows に相当する機能もありません。	より強力なモデルを実行できない IoT またはウェアラブルデバイスを作っている場合。
NVIDIA DeepStream	TensorRT と CUDA を使った高度に最適化された動画パイプライン向けの NVIDIA のプラットフォームで、Inference と同じような課題の多くを対象としています。学習曲線は急で、NVIDIA のツールに精通している必要があり、オープンソースではありません。	スループットを最優先にした単一プロジェクトの最適化に大きく投資する意思がある専門家。