Serverless Hosted API

Roboflow cloud में GPU-accelerated auto-scaling infrastructure पर Workflows और Model Inference चलाएँ।

Roboflow पर तैनात मॉडलों के लिए एक REST API उपलब्ध होती है, जिसके माध्यम से आप छवियों पर inference चला सकते हैं। यह deployment method उन environments के लिए आदर्श है जहाँ आपके deployment device पर एक स्थायी इंटरनेट कनेक्शन हो।

आप Serverless Hosted API का उपयोग कर सकते हैं:

• Workflows में

• REST API के साथ

• के साथ Inference Python SDK

Inference server

हमारी Serverless Hosted API को संचालित करता है Inference Server. इसका मतलब है कि आप नीचे दिखाए अनुसार, हमारी Serverless Hosted API और self-hosting विकल्प के बीच आसानी से बदल सकते हैं, और इसके विपरीत भी:

from inference_sdk import InferenceHTTPClient

CLIENT = InferenceHTTPClient(
    # api_url="http://localhost:9001" # Self-hosted Inference server
    api_url="https://serverless.roboflow.com", # हमारी Serverless hosted API
    api_key="API_KEY" # आपके private models और data तक पहुँचने के लिए वैकल्पिक
)

result = CLIENT.infer("image.jpg", model_id="model-id/1")
print(result)

सीमाएँ

हमारी Serverless Hosted API 20MB तक के file uploads का समर्थन करती है। आपको उच्च-resolution images के साथ सीमाओं का सामना करना पड़ सकता है। यदि आपको कोई issue आए, तो कृपया अपने enterprise support contact से संपर्क करें या the पर एक संदेश पोस्ट करें forum.

उन मामलों में जहाँ requests बहुत बड़ी हों, हम किसी भी संलग्न images का आकार कम करने की सिफारिश करते हैं। आमतौर पर इससे performance खराब नहीं होगी, क्योंकि images प्राप्त होने के बाद भी हमारे servers पर उन्हें model architecture द्वारा स्वीकार किए जाने वाले input size तक अपने-आप छोटा किया जाता है। हमारे कुछ SDKs, जैसे Python SDK, API पर भेजे जाने से पहले images को model architecture के input size तक अपने-आप छोटा कर देते हैं।

---

यह हमारी Serverless Hosted API का V2 है। देखें Serverless Hosted API v1 v1 (legacy) API documentation के लिए।