Google Cloud Platform पर डिप्लॉय करें

Inference CLI और SkyPilot के साथ Google Cloud Platform compute VM पर Roboflow Inference server डिप्लॉय करें।

आप Google Cloud Platform (GCP) पर होस्ट की गई मशीनों पर Roboflow Inference चला सकते हैं। यह तब उपयुक्त है जब आप अपनी खुद की क्लाउड इन्फ्रास्ट्रक्चर को प्रबंधित करते हुए Inference की सुविधाओं का उपयोग करना चाहते हैं।

एक Google Cloud कंप्यूट VM सेट अप करें

शुरू करने के लिए आपको GCP पर चल रही एक compute instance की आवश्यकता होगी। instances provision करने के लिए हम SkyPilot की अनुशंसा करते हैं, जो AI प्रोजेक्ट्स के लिए cloud instances सेट अप करने में मदद करने के लिए बनाया गया एक टूल है।

अपने मशीन पर निम्नलिखित कमांड चलाएँ:

pip install inference "skypilot[gcp]"

इसे फॉलो करें SkyPilot cloud account setup documentation GCP के साथ प्रमाणित करने के लिए, फिर चलाएँ:

inference cloud deploy --provider gcp --compute-type gpu

यह GCP में एक GPU-सक्षम instance provision करता है, जिस पर Roboflow Inference का नवीनतम संस्करण स्वचालित रूप से इंस्टॉल होता है।

जब कमांड समाप्त हो जाए, तो आपको इस तरह का एक संदेश दिखाई देना चाहिए:

Roboflow Inference को gcp पर gpu पर तैनात किया गया, deployment name है ...
अपने deployments की सूची पाने के लिए: inference cloud status
अपने deployment को हटाने के लिए: inference cloud undeploy ...
तैनात सर्वर में ssh करने के लिए: ssh ...
Roboflow Inference Server http://34.66.116.66:9001 पर चल रहा है

फिर आप उस endpoint का उपयोग मॉडल चलाने के लिए कर सकते हैं: object detection, segmentation, classification, और अपने Roboflow workspace के keypoint models, साथ ही CLIP, PaliGemma, और SAM2 जैसे foundation models।

अगले चरण

अपने client को नए server की ओर इंगित करें, इसके लिए सेट करें api_url अपने VM के IP address और उस port पर, जिस पर server चल रहा है (9001 डिफ़ॉल्ट रूप से)। देखें मॉडल चलाएँ पहले अनुरोध के लिए, और Inference CLI cloud commands deployment प्रबंधन के लिए।

सर्वर को private network से बाहर expose करने से पहले, समीक्षा करें स्व-होस्टेड सर्वर को सुरक्षित करना.