समर्पित परिनियोजन
Roboflow के साथ अपने Vision Models को Dedicated Servers पर चलाएँ
के बारे में
समर्पित परिनियोजन निजी क्लाउड सर्वर होते हैं, जिन्हें Roboflow प्रबंधित करता है, और जो आपके कंप्यूटर विज़न मॉडल तथा Workflows को विशेष रूप से आपके लिए आवंटित संसाधनों पर चलाते हैं। ये आपको अपना खुद का इन्फ्रास्ट्रक्चर प्रावधान या बनाए बिना inference सेवा देने देते हैं, जिसमें प्रति-घंटा बिलिंग और आपके workspace API key के माध्यम से सुरक्षित पहुँच होती है। जब आपको विकास, परीक्षण, या प्रोडक्शन ट्रैफ़िक के लिए सुसंगत, समर्पित प्रदर्शन चाहिए, तब इनका उपयोग करें।
समर्पित परिनियोजन क्या हैं?
समर्पित परिनियोजन Roboflow द्वारा प्रबंधित निजी क्लाउड सर्वर हैं, जिन्हें विशेष रूप से आपके कंप्यूटर विज़न मॉडल चलाने के लिए डिज़ाइन किया गया है। इन मॉडलों में शामिल हो सकते हैं:
वस्तु पहचान
छवि विभाजन
वर्गीकरण
कीपॉइंट पहचान
CLIP जैसे foundation मॉडल (यदि Roboflow पर प्रशिक्षित किए गए हों)
Roboflow Workflows (लो-कोड विज़न एप्लिकेशन)
...और कई अन्य!
समर्पित परिनियोजनों के लाभ
अपने मशीन विज़न बिज़नेस समस्या पर ध्यान दें, इन्फ्रास्ट्रक्चर हमें सौंप दें: कुछ ही क्लिक में inference सर्विंग इन्फ्रास्ट्रक्चर शुरू करें, और इसके लिए क्लाउड प्रदाताओं के साथ साइन अप करने, सर्वर इंस्टॉल और सुरक्षित करने, TLS प्रमाणपत्र प्रबंधित करने, या सर्वर प्रबंधन, पैचिंग, अपडेट आदि की चिंता करने की ज़रूरत नहीं है।
समर्पित संसाधन: केवल आपके उपयोग के लिए आवंटित क्लाउड सर्वर प्राप्त करें, जिससे आपके मॉडलों के लिए सुसंगत प्रदर्शन सुनिश्चित हो।
सुरक्षित पहुँच: समर्पित परिनियोजन आपके workspace की विशिष्ट API key के साथ सुलभ होते हैं और सुरक्षित संचार के लिए HTTPS का उपयोग करते हैं।
आसान एकीकरण: प्रत्येक परिनियोजन को इसके भीतर एक उपडोमेन मिलता है
roboflow.cloud, जिससे आपके अनुप्रयोगों के साथ एकीकरण सरल हो जाता है।प्रति-घंटा भुगतान: आपसे केवल सर्वर के अस्तित्व की अवधि के लिए शुल्क लिया जाता है (1 मिनट के अंतराल में बिलिंग की जाती है)।
स्वचालित विराम और पुनः आरंभ: आपका समर्पित परिनियोजन एक कॉन्फ़िगर की जा सकने वाली निष्क्रियता अवधि के बाद अपने आप रुक जाएगा। के लिए
dev-cpuयाdev-gpuपरिनियोजन प्रकारों के लिए, यह अवधि 1 घंटे पर स्थिर है। आपके API key के साथ अनुरोध भेजकर इन्हें जल्दी पुनः शुरू किया जा सकता है। यह सुविधा आपको लागत बचाने में मदद करने के लिए डिज़ाइन की गई है।
वर्तमान सीमाएँ
सभी समर्पित परिनियोजन वर्तमान में US-आधारित डेटा सेंटरों में होस्ट किए जाते हैं; अन्य भौगोलिक क्षेत्रों के उपयोगकर्ताओं को अधिक लेटेंसी दिखाई दे सकती है। यदि आप US के बाहर हैं, तो कृपया एक अनुकूलित समाधान के लिए हमसे संपर्क करें; हम नेटवर्क लेटेंसी कम करने में आपकी मदद कर सकते हैं।
समर्पित परिनियोजन Core और Enterprise प्लान वर्कस्पेस के लिए उपलब्ध हैं। देखें Roboflow योजनाएँ.
समर्पित परिनियोजनों के प्रकार
Roboflow 4 अलग-अलग प्रकार के समर्पित परिनियोजन प्रदान करता है, अर्थात dev-cpu, dev-gpu, prod-cpu, और prod-gpu। जहाँ dev-cpu और dev-gpu विकास और परीक्षण उद्देश्यों के लिए बनाए गए हैं और कुछ घंटों बाद अपने आप हटा दिए जाएँगे, वहीं prod-cpu और prod-gpu स्थायी होते हैं, जो आदर्श रूप से बड़े पैमाने के प्रोडक्शन ट्रैफ़िक की सेवा के लिए हैं।
dev-cpu
क्षणिक: 3 घंटे बाद अपने आप हटा दिया जाएगा
CPU: मॉडल inference CPU पर किया जा सकता है
के लिए आदर्श एकीकरणों का परीक्षण और प्रोटोटाइप बनाना एप्लिकेशन
dev-gpu
क्षणिक: 3 घंटे बाद अपने आप हटा दिया जाएगा
एकीकरणों के परीक्षण के लिए आदर्श और प्रोटोटाइप बनाना एप्लिकेशन
GPU: मॉडलों को GPU त्वरण की आवश्यकता होती है (जैसे Florence 2)
के लिए आदर्श एकीकरणों का परीक्षण और प्रोटोटाइप बनाना एप्लिकेशन
prod-cpu
स्थायी: समर्पित उपडोमेन <some-name>.roboflow.cloud
CPU: मॉडल inference CPU पर किया जा सकता है
के लिए आदर्श प्रोडक्शन ट्रैफ़िक की सेवा
prod-gpu
स्थायी: समर्पित उपडोमेन <some-name>.roboflow.cloud
GPU: मॉडलों को GPU त्वरण की आवश्यकता होती है (जैसे Florence 2)
के लिए आदर्श प्रोडक्शन ट्रैफ़िक की सेवा
बिलिंग जानकारी
GPU परिनियोजनों (dev-gpu, prod-gpu) के लिए दर है 1 क्रेडिट/घंटा, जबकि CPU परिनियोजनों (dev-cpu, prod-cpu) के लिए दर है 0.25 क्रेडिट/घंटा.
यदि आप अपने समर्पित परिनियोजन सर्वर को भेजे गए अनुरोधों की संख्या के आधार पर बिलिंग चाहते हैं, तो कृपया हमारी सेल्स टीम से संपर्क करने के लिए यहाँ क्लिक करें.
सभी समर्पित परिनियोजन सर्वर चलाएँगे Roboflow Inference, हमारा ओपन-सोर्स inference सर्वर। Roboflow Inference दस्तावेज़ की समीक्षा करें ताकि उपलब्ध सभी सुविधाओं के बारे में अधिक जान सकें।
उपयोगी लिंक
HTTP API
समर्पित डिप्लॉयमेंट्स प्रबंधित GPU मशीनें हैं जो आपके Roboflow मॉडलों को अनुमानित लेटेंसी और उच्च थ्रूपुट के साथ चलाती हैं। इन्हें https://roboflow.cloud, पर होस्ट की गई एक समर्पित सेवा द्वारा प्रबंधित किया जाता है, जो मुख्य https://api.roboflow.com REST API से अलग है।
यह अनुभाग प्रबंधन endpoints (create, get, list, pause, resume, delete, logs, usage) का दस्तावेज़ीकरण करता है। एक बार परिनियोजन लाइव हो जाए, उस पर inference के लिए देखें छवि पर मॉडल चलाएँ.
Base URL: https://roboflow.cloud
api_key को क्वेरी पैरामीटर के रूप में (या POST endpoints के लिए अनुरोध बॉडी में) प्रत्येक अनुरोध पर भेजा जाता है। प्रतिक्रिया कोड जाँचें: यदि यह 200है, तो प्रतिक्रिया बॉडी को JSON ऑब्जेक्ट के रूप में डिकोड करें; अन्यथा, प्रतिक्रिया बॉडी में एक त्रुटि संदेश स्ट्रिंग के रूप में होता है।
उपलब्ध मशीन प्रकार सूचीबद्ध करें
GET /machine_types
प्रतिक्रिया
एक परिनियोजन बनाएँ
POST /add
बॉडी (JSON)
api_key
string
वर्कस्पेस API key।
creator_email
string
वर्कस्पेस सदस्य का ईमेल।
deployment_name
string
वर्कस्पेस के भीतर अद्वितीय नाम।
machine_type
string
से /machine_types.
duration
फ़्लोट
स्वचालित सफ़ाई से पहले के घंटे। डिफ़ॉल्ट 3.
delete_on_expiration
boolean
true समाप्ति पर हटाने के लिए; false रोकने के लिए।
inference_version
string
Inference सर्वर संस्करण। डिफ़ॉल्ट नवीनतम.
min_replicas
पूर्णांक
न्यूनतम प्रतिकृतियाँ। डिफ़ॉल्ट 1.
max_replicas
पूर्णांक
अधिकतम प्रतिकृतियाँ। डिफ़ॉल्ट 1.
परिनियोजन असिंक्रोनस रूप से प्रावधान किया जाता है। पोल करें GET /get जब तक status == "ready".
प्रतिक्रिया उदाहरण
प्रतिक्रिया स्कीमा
deployment_id
string
परिनियोजन के लिए अद्वितीय पहचानकर्ता।
deployment_name
string
परिनियोजन को दिया गया नाम।
machine_type
string
इनमें से एक dev-cpu, dev-gpu, prod-cpu, prod-gpu.
creator_email
string
परिनियोजन बनाने वाले उपयोगकर्ता का ईमेल।
creator_id
string
से संबंधित उपयोगकर्ता ID creator_email.
subdomain
string
हमेशा वही नहीं होता जैसा deployment_name - यदि उपडोमेन लिया जा चुका है तो एक प्रत्यय जोड़ा जाता है।
domain
string
परिनियोजन endpoint का पूर्ण डोमेन।
duration
फ़्लोट
परिनियोजन कितने घंटे से चल रहा है।
inference_version
string
परिनियोजन पर चल रहा inference सर्वर संस्करण।
min_replicas
पूर्णांक
न्यूनतम प्रतिकृति संख्या।
max_replicas
पूर्णांक
अधिकतम प्रतिकृति संख्या।
num_replicas
पूर्णांक
वर्तमान में उपलब्ध प्रतिकृतियाँ।
status
string
वर्तमान परिनियोजन स्थिति।
workspace_id
string
स्वामी वर्कस्पेस की ID।
workspace_url
string
स्वामी वर्कस्पेस का URL स्लग।
एक परिनियोजन प्राप्त करें
GET /get?api_key=...&deployment_name=...
क्वेरी पैरामीटर
api_key
string
हाँ
वर्कस्पेस API key।
deployment_name
string
हाँ
प्राप्त करने के लिए परिनियोजन का नाम।
प्रतिक्रिया (जैसा कि एक परिनियोजन बनाएँ प्रतिक्रिया)
परिनियोजनों की सूची
GET /list?api_key=...
क्वेरी पैरामीटर
api_key
string
हाँ
वर्कस्पेस API key।
show_expired
string
नहीं
समाप्त हो चुके परिनियोजन शामिल करें। डिफ़ॉल्ट false.
show_deleted
string
नहीं
हटाए गए परिनियोजन शामिल करें। डिफ़ॉल्ट false.
प्रतिक्रिया
समर्पित परिनियोजन प्रविष्टियों की एक सूची, जहाँ प्रत्येक प्रविष्टि की स्कीमा वही होती है जो एक परिनियोजन बनाएँ प्रतिक्रिया।
लॉग्स
GET /get_log?api_key=...&deployment_name=...&from_timestamp=...&to_timestamp=...&max_entries=...
क्वेरी पैरामीटर
from_timestamp और to_timestamp ISO-8601 स्ट्रिंग्स हैं। सबसे हाल के लॉग प्राप्त करने के लिए इन्हें छोड़ दें, तक max_entries.
प्रतिक्रिया उदाहरण
प्रतिक्रिया स्कीमा
लॉग प्रविष्टियों की एक सूची, जहाँ प्रत्येक प्रविष्टि में निम्न गुण होते हैं:
insert_id
string
लॉग प्रविष्टि के लिए अद्वितीय पहचानकर्ता।
payload
string
लॉग सामग्री।
severity
string
लॉग स्तर।
timestamp
string
जब प्रविष्टि लिखी गई थी।
उपयोग
वर्कस्पेस-व्यापी:
GET /usage_workspace?api_key=...&from_timestamp=...&to_timestamp=...
प्रति-परिनियोजन:
GET /usage_deployment?api_key=...&deployment_name=...&from_timestamp=...&to_timestamp=...
विराम / पुनः आरंभ / हटाएँ
POST /pause POST /resume POST /delete
बॉडी (JSON)
api_key
string
हाँ
वर्कस्पेस API key।
deployment_name
string
हाँ
जिस पर कार्रवाई करनी है वह परिनियोजन।
वही बॉडी संरचना /resume और /delete.
प्रतिक्रिया उदाहरण
Python SDK
समर्पित डिप्लॉयमेंट्स प्रबंधित GPU मशीनें हैं जो आपके Roboflow मॉडलों को अनुमानित लेटेंसी और उच्च थ्रूपुट के साथ चलाती हैं। SDK इन्हें roboflow.adapters.deploymentapi adapter के माध्यम से प्रबंधित करता है - उच्च-स्तरीय Workspace क्लास वर्तमान में deployment methods उपलब्ध नहीं कराती।
प्रत्येक फ़ंक्शन एक (स्थिति_कोड, बॉडी) tuple लौटाता है ताकि आप HTTP परिणाम के आधार पर शाखा बना सकें:
उपलब्ध मशीन प्रकारों की सूची बनाएं
एक परिनियोजन बनाएँ
परिनियोजन असिंक्रोनस रूप से प्रावधान किया जाता है। पोल करें get_deployment जब तक status == "ready".
परिनियोजन विवरण प्राप्त करें
विराम / पुनः आरंभ / हटाएँ
लॉग्स
उपयोग
समर्पित परिनियोजन के विरुद्ध inference चलाना
एक बार परिनियोजन तैयार हो जाए, inference SDK कॉल्स को इसके public_url (जो लौटाया गया है get_deployment):
CLI
आप बना, मॉनिटर, और प्रबंधित कर सकते हैं समर्पित डिप्लॉयमेंट्स कमांड लाइन से।
परिनियोजनों की सूची
उपलब्ध मशीन प्रकार सूचीबद्ध करें
एक परिनियोजन बनाएँ
विकल्प
-m, --machine-type
मशीन प्रकार (आवश्यक)। चलाएँ deployment machine-type विकल्प देखने के लिए
-e, --email
आपका ईमेल, वर्कस्पेस सदस्य होना चाहिए (आवश्यक)
--duration
घंटों में अवधि (डिफ़ॉल्ट: 3)
--inference-version
Inference server version (डिफ़ॉल्ट: latest)
--no-delete-on-expiration
समाप्त होने पर deployment को रखें
--wait
जब तक deployment तैयार न हो जाए, प्रतीक्षा करें
उदाहरण:
Deployment विवरण प्राप्त करें
लंबित deployment के तैयार होने की प्रतीक्षा करें:
लॉग देखें
रीयल-टाइम में लॉग फ़ॉलो करें:
विकल्प
-d, --duration
सेकंड में लॉग विंडो (डिफ़ॉल्ट: 3600)
-n, --tail
अंत से दिखाने वाली पंक्तियाँ (अधिकतम 50, डिफ़ॉल्ट: 10)
-f, --follow
लॉग आउटपुट फ़ॉलो करें
उपयोग सांख्यिकी
पूरे वर्कस्पेस का उपयोग प्राप्त करें:
किसी विशिष्ट deployment का उपयोग प्राप्त करें:
विकल्प
--from
प्रारंभ समय (ISO 8601)
--to
समाप्ति समय (ISO 8601)
पॉज़, रेज़्यूम, और डिलीट
JSON आउटपुट
सभी deployment कमांड समर्थन करते हैं --json:
अंतिम अपडेट
क्या यह उपयोगी था?