モデル重みのダウンロード

inference パッケージがモデル重みをダウンロードしてキャッシュする方法、永続キャッシュディレクトリの設定方法、重みの事前ダウンロード方法。

Roboflow Inference をデプロイする場合、モデルの重みは推論がローカルで実行されるデバイスにダウンロードされます。このページでは、どのように 推論 パッケージがそれらの重みをダウンロードしてキャッシュするかを説明します。

生の .pt 重みファイルをお探しですか？Roboflow Inference エコシステムの外で実行するには？次を参照してください：モデルの重みをダウンロード.

概要

モデルの重みは、特定のモデルで推論を初めて実行するときに自動的にダウンロードされます。重みはデバイス上にローカルでキャッシュされ、すべての推論はデバイス上（クラウドではなく）で実行されます。

仕組み：

インターネットに接続している間に、モデルの重みをデバイスにダウンロードします。
重みはマシン上にローカルでキャッシュされます。
キャッシュされた重みを使ってデバイス上で推論を実行します。

この方法はすべての Roboflow デプロイ方法で機能し、高速なローカル推論を保証します。

デフォルトのキャッシュ場所。 デフォルトでは、モデルの重みは /tmp/cacheに保存され、これは システム再起動時に消去されます。本番デプロイや、再起動をまたいで重みを保持する必要があるあらゆるシナリオでは、 MODEL_CACHE_DIR 環境変数を使用して永続的なキャッシュディレクトリを設定する必要があります（キャッシュ場所を参照）。

エンタープライズ向けオフラインモード。 完全に切り離された運用を必要とするエンタープライズデプロイについては、オフラインモードを参照してください。このページでは、利用状況の追跡、請求、ワークフローの更新のための接続性を維持しつつ、モデルの重みのダウンロードとキャッシュに焦点を当てています。

キャッシュ場所

デフォルトでは、モデルの重みは /tmp/cache. このディレクトリはシステム再起動時に消去されます。つまり、再起動のたびにモデルの重みを再ダウンロードする必要があります。

本番デプロイや、再起動をまたいで重みを保持する必要があるあらゆるシナリオでは、必ずを使って永続的なキャッシュディレクトリを設定 MODEL_CACHE_DIR する必要があります：

import os
# 永続的なディレクトリに設定する（/tmp ではない）
os.environ["MODEL_CACHE_DIR"] = "/home/user/.roboflow/cache"

from inference import get_model
# ... 残りのコード

または、システム全体で設定します：

export MODEL_CACHE_DIR="/home/user/.roboflow/cache"

ディレクトリが存在し、適切な権限があることを確認してください：

mkdir -p /home/user/.roboflow/cache
chmod 755 /home/user/.roboflow/cache

Docker デプロイ。 Docker で Inference を実行する場合は、コンテナの再起動後も重みを保持するために永続的なキャッシュボリュームをマウントしてください。次を参照してください： Docker 設定を使用します。詳しくは

ネイティブ Python API

このネイティブ Python API でモデルを読み込むと、重みが自動的にダウンロードされ、キャッシュされます get_model().

重みの事前ダウンロード

from inference import get_model

# モデルを読み込む（重みをダウンロードしてキャッシュする）
model = get_model(
    model_id="rfdetr-base",
    api_key="YOUR_ROBOFLOW_API_KEY"
)
print("モデルの重みがキャッシュされました！")

推論の実行

from inference import get_model

# キャッシュされた重みを使ってデバイス上で推論する
model = get_model(
    model_id="rfdetr-base",
    api_key="YOUR_ROBOFLOW_API_KEY"
)

results = model.infer("path/to/image.jpg")

セルフホストの Inference Server では、その代わりに HTTP 経由で重みを事前読み込みできます。次を参照してください：モデル管理.

ベストプラクティス

まず永続的なキャッシュを設定します。 いずれかの重みをダウンロードする前に、 MODEL_CACHE_DIR を永続的なディレクトリ（ /tmpではない）を指すように設定してください。これは本番デプロイで、再起動時にキャッシュされた重みを失わないために不可欠です。
セットアップ中に事前ダウンロードします。 デプロイのセットアップ段階で、必要なすべてのモデルの重みをダウンロードし、キャッシュされてすぐ使えるようにします。
Docker では永続的なキャッシュを使います。 常に永続ボリュームをマウントしてください。コンテナのファイルシステムに保存された重みは、再起動時に失われます。
デプロイ前に検証します。 本番環境にデプロイする前に、モデルが正しくキャッシュされており、キャッシュディレクトリが再起動をまたいで維持されることを確認してください。
モデル ID を文書化します。 事前キャッシュやトラブルシューティングをしやすくするために、アプリケーションに必要なすべてのモデル ID とバージョンの一覧を保持してください。
ストレージを考慮します。 モデルの重みは大きくなることがあります（モデルごとに 100MB〜1GB 以上）。永続的なキャッシュディレクトリに十分なディスク容量があることを確認してください。
再起動時の挙動をテストします。 重みをキャッシュした後、システム再起動後も保持されることをテストして、キャッシュ設定が正しいことを確認してください。

トラブルシューティング

再起動後に重みが消える

デフォルトのキャッシュ場所（/tmp/cache）は再起動時に消去されます。で説明されているように永続的なキャッシュディレクトリを設定するか、キャッシュ場所、または Docker 用の永続ボリュームマウント.

モデルが見つからないエラー

モデルが実際にダウンロードされていることを確認してください（ ls -lh $MODEL_CACHE_DIR).
ダウンロード時とまったく同じ model_id を使用していることを確認してください。
次を確認してください MODEL_CACHE_DIR カスタムの場所を使用している場合は、正しく設定されていること。

権限の問題

アプリケーションがキャッシュディレクトリに対して読み書き権限を持っていることを確認してください：

chmod -R 755 /path/to/cache

前へネイティブ Python API 次へInference SDK

最終更新 9 日前

役に立ちましたか？