> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ja/production-checklist.md).

# 本番稼働準備チェックリスト

Roboflow デプロイメントの本番稼働準備 - HTTP エラー処理と再試行、タイムアウトとコールドスタート、レート制限、専用デプロイメントのレプリカサイズ。

〜したら、 [デプロイ方法を](https://docs.roboflow.com/deployment/ja/choosing-a-deployment.md)選択したら、このページを参考に、本番トラフィックを処理する前にインテグレーションを強化してください。エラー処理と再試行、タイムアウトとコールドスタート、レート制限、レプリカ数の設定について、 [専用デプロイ](https://docs.roboflow.com/deployment/ja/roboflow-cloud/dedicated-deployments.md).

## Cloud Streaming

「 [Cloud Streaming](https://docs.roboflow.com/deployment/ja/roboflow-cloud/cloud-streaming.md) を継続的に利用する前に：

* 対象のWorkflow、モデル、入力、画像出力を使って、ソースへの接続と処理統計の更新を確認します。
* 「 [処理レートとクレジットの動作](https://docs.roboflow.com/deployment/ja/roboflow-cloud/cloud-streaming/pricing-and-limits.md)」を確認します。プレビューやテストでもクレジットが消費される場合があり、ページを閉じてもデプロイは停止しません。
* 管理された送信先を使って、 [シンクのフィルター、ペイロード、クールダウン](https://docs.roboflow.com/deployment/ja/roboflow-cloud/cloud-streaming/consume-results.md#send-results-with-a-workflow-sink)をテストします。保存済みのドラフトだけでなく、実行中のスナップショットでシンクが有効になっていることを確認します。
* 再起動や復旧時に、データの欠落や状態のリセットが起こることを想定してください。下流の受信側は、イベントの重複や配信失敗に対応できるように設計します。
* 必要に応じて [オフライン通知](https://docs.roboflow.com/deployment/ja/roboflow-cloud/cloud-streaming/manage-and-monitor.md#offline-notifications) を設定し、通知がコネクターのみに適用される条件と、Workspace全体に適用される制限を把握します。
* 再生許可トークンをログに記録せず、必要な間だけ更新します。明示的な停止操作またはAPIによるキャンセルが、終端状態に到達することを確認します。

## セルフホスト型サーバーへのアクセス

セルフホスト型のデプロイでは、リモートクライアントを許可する前に、 [ネットワークアクセス、認証、可観測性](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/security.md) を確認してください。CLIまたはサーバーイメージをアップグレードする際は、 [セキュリティ設定の移行](https://docs.roboflow.com/deployment/ja/self-hosted/inference-server/configuration/security-migration.md) を確認してください。

## HTTPエラーと再試行

Roboflowの推論APIと管理APIは、標準のHTTPステータスコードを使用します。ツール間の完全な一覧（RESTのステータスコード、SDKの例外、CLIの終了コード）は、 [エラーとステータスコード](https://docs.roboflow.com/reference/errors-and-status-codes)に記載されています。本番環境での重要な原則は、実際に再試行可能なものだけを再試行することです。

<table data-search="false"><thead><tr><th>ステータス</th><th>再試行？</th><th>ガイダンス</th></tr></thead><tbody><tr><td>200 / 204</td><td>-</td><td>成功。</td></tr><tr><td>400</td><td>いいえ</td><td>不正なリクエストです。ペイロードを修正してください。同じ不正なリクエストを再送しても解決しません。</td></tr><tr><td>401 / 403</td><td>いいえ</td><td>認証またはアクセスの失敗です。再試行してもキーが有効になることはありません。APIキーとそのスコープを確認してください。</td></tr><tr><td>402 / 423</td><td>いいえ</td><td>プランの制限、クォータの上限到達、または請求の一時停止です。 <a href="https://roboflow.com/pricing">請求</a> 側で解決し、ループで再試行しないでください。</td></tr><tr><td>404</td><td>いいえ</td><td>リソースが存在しないか、このキーからは表示できません。</td></tr><tr><td>429</td><td>はい</td><td>レート制限です。待機時間を延ばしながら再試行してください（指数バックオフ。 <a href="#rate-limits">レート制限</a>).</td></tr><tr><td>5xx</td><td>はい</td><td>一時的なサーバーエラーです。バックオフを適用すれば安全に再試行できます。</td></tr></tbody></table>

**バックオフのパターン。** 「 `429` 」と `5xx`、指数バックオフとジッター（たとえば、1秒、2秒、4秒、8秒にランダムなオフセットを加える）を使って再試行し、試行回数に上限を設けます。次のエラーは決して自動的に再試行せず、 `401`/`403`/`404`/`400` アプリケーション側で処理してください。

を呼び出す際は、 [Dedicated Deployments](https://docs.roboflow.com/deployment/ja/roboflow-cloud/dedicated-deployments.md#http-api) 管理サービス（`https://roboflow.cloud`）のレスポンスコードを明示的に確認してください。 `200` の場合はJSON本文が返され、それ以外のコードではエラーメッセージが文字列として返されます。

## タイムアウトとコールドスタート

は [Serverless Cloud API](https://docs.roboflow.com/deployment/ja/roboflow-cloud/serverless-api.md) モデルをオンデマンドで読み込みます。サーバー上にまだ常駐していないモデルへの最初のリクエスト（「ウォームアップ」）には数秒かかることがあります。また、アイドル状態が続いたモデル（たとえば、推論の間隔が約10分空いた場合）はアンロードされ、次の呼び出し時に再読み込みが必要になることがあります。

* **クライアントのタイムアウトには十分な余裕を持たせてください。** コールドスタート時にタイムアウトするほど短いクライアントタイムアウトを設定すると、本来なら成功するリクエストも失敗します。初回リクエストやアイドル期間後のウォームアップに備えて、余裕を持たせてください。
* **モデルを事前にウォームアップします。** レイテンシーを予測可能にする必要がある場合は、レイテンシーが重要なトラフィックを送る前にウォームアップリクエストを送信し、モデルがキャッシュ済みの状態にしてください。
* **レスポンスヘッダーを確認します。** Serverlessのレスポンスには、 `x-model-cold-start` （このリクエストでモデルの読み込みが発生したかどうか）と `x-processing-time`が含まれます。これらを使って、コールドスタートの頻度とレイテンシーを監視してください。どちらも課金額には影響しません。画像あたりの料金については、 [Serverlessの料金](https://docs.roboflow.com/deployment/ja/roboflow-cloud/serverless-api/model-pricing.md) をご覧ください。
* **アップロードサイズを上限以下に抑えます。** Serverless Cloud APIが受け付けるファイルのアップロードサイズは、 **20 MB**までです。それより大きい画像は拒否されます。送信前に画像を縮小してください（Python SDKでは自動的に縮小されます）。画像はどのみちモデルの入力サイズにリサイズされるため、通常、精度への影響はありません。Batch Processingにも、画像1枚あたり同じ20 MBの上限が適用されます。

コールドスタートなしで低レイテンシーを継続的に実現するには、共有のサーバーレスエンドポイントではなく、 [Dedicated Deployments](https://docs.roboflow.com/deployment/ja/roboflow-cloud/dedicated-deployments.md) または [Self-Hosted Inference](https://docs.roboflow.com/deployment/ja/self-hosted/self-hosted.md) を使用してください。

## レート制限

* **Serverless Cloud API。** で `429`に達した場合は、速度を落として指数バックオフで再試行してください。制限に頻繁に達する場合や、より高いスループットが必要な場合は、エンタープライズサポートの窓口または [Roboflowフォーラム](https://discuss.roboflow.com)に問い合わせるか、 [Dedicated Deployment](https://docs.roboflow.com/deployment/ja/roboflow-cloud/dedicated-deployments.md).
* **Deployment Manager API。** エッジデバイス管理エンドポイントには、エンドポイントごとに明示的な制限が設定されており、上限を超えると `429` が返されます。たとえば、デバイスログは **IPアドレスごとに毎分5リクエスト** 、 **全体で毎分50リクエスト**に制限され、テレメトリの読み取りは **デバイスごとに毎分60リクエスト** に制限されます。また、10秒間に10リクエストまでのバーストが許可されます。詳しくは、 [Deployment Manager API](https://docs.roboflow.com/deployment/ja/self-hosted/enterprise/deployment-manager.md#errors) ポーリングをインテグレーションに組み込む前に、正確な上限とエラー形式を確認してください。

利用する方法について文書に具体的な数値が記載されていない場合は、 `429` 固定の上限があると考えるのではなく、 [サポートにお問い合わせください](https://roboflow.com/sales) より高い上限が必要な場合は。

## Dedicated Deployment のレプリカサイズ

Dedicated Deployment を [Dedicated Deployment](https://docs.roboflow.com/deployment/ja/roboflow-cloud/dedicated-deployments.md#http-api)作成するときに、 `min_replicas` と `max_replicas` を設定できます（どちらもデフォルトは `1`):

* **`min_replicas`** は稼働状態を維持するレプリカ数です。最小値を大きくすると、常時稼働する容量が増える代わりに、負荷が急増したときのコールドスタートのレイテンシーを抑えられます。
* **`max_replicas`** は、負荷に応じたデプロイメントのスケールアウト上限です。ピーク時のスループットを高めるには、この値を大きくします。

安定したトラフィックの場合は、 `min_replicas` と `max_replicas` を `1` に設定するのが最も簡単な出発点です。1つのレプリカでピーク負荷に対応できない場合は `max_replicas` を増やし、 `min_replicas` トラフィックが途切れた後の最初のリクエストが遅すぎる場合は、値を大きくしてください。

### 自動一時停止との連携

Dedicated Deployment は、一定時間操作がないと **自動的に一時停止します** （ `dev-cpu` と `dev-gpu` タイプでは1時間に固定）。APIキーを使ってリクエストを送信すると再開します。一時停止中のデプロイメントではレプリカが稼働していないため、再開させるリクエストには再開時のレイテンシーが発生します。

* 常時稼働が必要な本番トラフィックには、 **永続的な `prod-cpu` / `prod-gpu`** タイプを使用してください。
* 一時的な `dev-cpu` / `dev-gpu` タイプはテストやプロトタイピング用に使用してください。これらのタイプは数時間後に自動的に削除されます。
* 稼働時間ではなくリクエスト数に基づく課金や、カスタムの一時停止／レプリカポリシーが必要な場合は、 [営業にお問い合わせください](https://roboflow.com/sales).

## 本番稼働の前に

* 送信するすべての呼び出しでリトライを行います。リトライの対象は `429` と `5xx` のみで、バックオフを適用します。
* クライアントのタイムアウトは、サーバーレスのコールドスタートにも対応できるよう、十分に長く設定されています。
* 画像は、20 MBのアップロード上限を超えないように縮小されます。
* APIキーには、必要最小限の [スコープ](https://docs.roboflow.com/reference/authentication/authentication/scoped-api-keys) を設定し、コードに直接埋め込まず、シークレットとして保存します。
* Dedicated Deploymentsでは、 `min_replicas` / `max_replicas` は負荷に合わせて設定し、常時稼働するトラフィックには `prod-*` タイプを選択します。
* デプロイメントを監視し（ [モデルのモニタリング](https://docs.roboflow.com/deployment/ja/to/model-monitoring.md) を参照）、エラー率やレイテンシの悪化をアラートで検知します。
