Windows にベアメタル版 Inference GPU をインストール

Docker を使わずに、Windows 上で NVIDIA CUDA と cuDNN を含む inference-gpu Python パッケージをインストールします。

強く推奨します その代わりに、Windows に Docker を使って Inference をインストールすること 以下のガイドは、システムで Docker を使用できない場合にのみ利用してください。

Inference は次のものと一緒に使用できます inference-gpu パッケージと Windows 上の NVIDIA CUDA。このガイドでは、Windows の GPU 環境の構成手順を説明します。

前提条件

NVIDIA GPU を搭載した、Windows 10 または Windows 11 搭載のマシンが必要です。

ステップ 1: Python をインストールする

最新の Python 3.11.x を Windows 向け Python 一覧からダウンロードしてください。Microsoft Store 版の Python はインストールしないでください。onnxruntime と互換性がないためです。

「Windows Installer (64-bit)」のリンクをクリックし、指示に従ってこのマシンに Python をインストールします。インストールが完了したら、 py --version を実行して、正常に完了したことを確認します。Python のバージョンが表示されるはずです。

ステップ 2: Inference GPU をインストールする

PowerShell ターミナルで次を実行します:

py -m pip install --extra-index-url https://download.pytorch.org/whl/cu128 inference-gpu

次を調整してください --extra-index-url を、OS にインストールされている CUDA のバージョンに合わせます: https://download.pytorch.org/whl/cu<major><minor>、たとえば https://download.pytorch.org/whl/cu130 は CUDA 13.0 用です。

ステップ 3: CUDA Toolkit 11.8 をインストールする

次に、Inference が CUDA を使用できるように CUDA Toolkit 11.8 をインストールします。 CUDA Toolkit をダウンロードする.

ダウンロードページで、システムに合った正しいパラメータを選び、「exe (Network)」を選択して、リンクに従ってツールキットをダウンロードします。

インストールファイルを開き、すべての既定値を受け入れてツールキットをインストールします。

ステップ 4: cuDNN をインストールする

次の場所に移動します NVIDIA ウェブサイトの cuDNN アーカイブ で、「cuDNN v8.7.0 (November 28th, 2022), for CUDA 11.x」を選択します。11.x 用のリンクを選んでください。ほかのものは CUDA のバージョンと互換性がなく、失敗します。

「Local Installer for Windows (Zip)」を選び、ZIP ファイルをダウンロードします。ソフトウェアのダウンロードには NVIDIA アカウントが必要です。

Downloads フォルダー内のファイルを開き、右クリックして「すべて展開」を選び、すべてのファイルをダウンロードフォルダーに展開します。

Ctrl+N を押して新しいエクスプローラーウィンドウを開き、次の場所に移動します C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8.

すべての .dll ファイルを bin/ フォルダーから cuDNN ダウンロード先の bin/ フォルダーへコピーします:

DLL のコピー手順

すべての .h ファイルを include/ フォルダーから cuDNN ダウンロード先の include/ フォルダーへコピーします:

ヘッダーファイルのコピー手順

次の x64 フォルダーを lib/ cuDNN ダウンロード先のディレクトリから lib/ CUDA インストール先のディレクトリにコピーします:

x64 ファイルのコピー手順

スタートメニューを右クリックして「システム」、次に「システムの詳細設定」、次に「環境変数」を選択します。次の名前の新しい環境変数を作成します CUDNN 値は次のとおりです:

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\include;C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\lib;

ステップ 5: zlib をインストールする

次のファイルを探します C:\Program Files\NVIDIA Corporation\Nsight Systems 2022.4.2\host-windows-x64\zlib.dllを右クリックして、「コピー」を選択します。

次の場所に移動します C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\binに貼り付け、 zlib.dll ファイルをこのフォルダーに配置して、名前を zlibwapi.dll.

ステップ 6: Visual Studio 2019 C++ ランタイムをインストールする

Visual Studio 2019 C++ ランタイムをインストールします（ダウンロードリンク).

インストールを確認する

以下の内容の新しいファイルを作成し、 Roboflow API キーを追加してください:

from inference import InferencePipeline
from inference.core.interfaces.stream.sinks import render_boxes

pipeline = InferencePipeline.init(
    api_key="YOUR_API_KEY",
    model_id="rock-paper-scissors-sxsw/11",
    video_reference="https://media.roboflow.com/rock-paper-scissors.mp4",
    on_prediction=render_boxes,
)
pipeline.start()
pipeline.join()

ファイルのある場所で PowerShell ターミナルを開き、 py infer.pyを実行します。インストールが成功していれば、コンソールにエラーや警告は表示されず、注釈付き画像の数フレームが表示されるはずです。