Managed Deployments
Roboflow कई प्रबंधित डिप्लॉयमेंट विकल्प प्रदान करता है जो हमारे क्लाउड इन्फ्रास्ट्रक्चर का उपयोग करके आपके मॉडल चलाते हैं। ये विकल्प उपयोग में आसान हैं और उत्कृष्ट स्केलेबिलिटी विकल्प प्रदान करते हैं, जिससे ये विविध प्रकार के अनुप्रयोगों के लिए आदर्श हैं।
Serverless API
The Serverless Hosted API आपको Roboflow के इन्फ्रास्ट्रक्चर पर एक अनंत-स्केलेबल API के माध्यम से सीधे वर्कफ़्लो और मॉडल चलाने की अनुमति देता है। यह आपके मॉडल को डिप्लॉय करने और inference शुरू करने का सबसे आसान तरीका है।
लाभ:
स्केलेबिलिटी: API स्वचालित रूप से आपके inference की आवश्यकताओं को संभालने के लिए स्केल करता है, इसलिए आपको सर्वर प्रोविजनिंग या प्रबंधन की चिंता नहीं करनी पड़ती।
उपयोग में सरलता: आप अपने मॉडल तक एक सरल REST API के माध्यम से पहुँच सकते हैं, जिससे अपने अनुप्रयोगों में inference को एकीकृत करना आसान हो जाता है।
कोई इन्फ्रास्ट्रक्चर प्रबंधन नहीं: Roboflow सभी इन्फ्रास्ट्रक्चर को संभालता है, इसलिए आप अपने अनुप्रयोग बनाने पर ध्यान केंद्रित कर सकते हैं।
वर्कफ़्लो समर्थन: आपके सभी वर्कफ़्लो Serverless API पर API endpoints के रूप में उपलब्ध हैं, इसलिए आप सरल HTTP अनुरोध का उपयोग करके आसानी से अपने वर्कफ़्लो चला सकते हैं
सीमाएँ:
वॉर्मअप अनुरोध: जब आप ऐसे अनुरोध करते हैं जिनके लिए कोई मॉडल किसी सर्वर पर लोड नहीं हुआ है और मॉडल लोड करना आवश्यक होगा, तो प्रारंभिक अनुरोधों में कई सेकंड की बढ़ी हुई लेटेंसी हो सकती है। बाद के अनुरोधों के बाद अनुरोध की लेटेंसी काफी हद तक सुधर जाएगी क्योंकि आपका मॉडल वर्तमान में चल रहे सर्वरों में कैश हो जाएगा।
CPU आधारित: The Serverless Hosted API मॉडल inference के लिए CPU का उपयोग करता है; आप Dedicated Deployments या self-hosted deployments की तुलना में उच्च लेटेंसी का अनुभव कर सकते हैं और उन मॉडलों का उपयोग नहीं कर सकते जो GPU की आवश्यकता होती है (Serverless GPU API जल्द ही आ रहा है).
Workflows
The Serverless Hosted API आपको चलाने की अनुमति देता है Workflows Roboflow क्लाउड में। इससे आप अपनी स्वयं की इन्फ्रास्ट्रक्चर का प्रबंधन किए बिना जटिल कंप्यूटर विज़न अनुप्रयोग बना और चला सकते हैं।
आप वर्कफ़्लो को भी चला सकते हैं Dedicated Deployments या self hosted inference सर्वरों पर, जो आपको अधिक शक्तिशाली GPU आधारित मॉडल का उपयोग करने और उपयोग सक्षम बनाता है Custom Python Blocks.
आप सीख सकते हैं कि कैसे Workflows को बनाना, परीक्षण करना, और डिप्लॉय करना है अधिकांश व्यावसायिक अनुप्रयोगों के लिए,.
मॉडल इनफरेंस
के अतिरिक्त वर्कफ़्लो आप विशिष्ट मॉडल के विरुद्ध भी इनफर कर सकते हैं using the Serverless Hosted API. आप किसी भी मॉडल के विरुद्ध इनफर कर सकते हैं जिसे आपने Roboflow पर प्रशिक्षित किया है, किसी भी समर्थित foundation models, या प्रशिक्षित मॉडल वाले प्रोजेक्ट खोजें https://universe.roboflow.com
के उपयोग के बारे में अवलोकन Serverless Hosted API:
Roboflow डैशबोर्ड से अपना API key प्राप्त करें।
अपने इमेज और मॉडल जानकारी के साथ API endpoint पर एक POST अनुरोध भेजें।
JSON प्रारूप में inference परिणाम प्राप्त करें।
संदर्भ Serverless Hosted API विवरण और API विनिर्देशों के लिए docs
Batch Processing
Roboflow बैच प्रोसेसिंग एक पूरी तरह से प्रबंधित समाधान है जिसे Workflows द्वारा संचालित किया जाता है जो आपको बिना कोड लिखे बड़ी मात्रा में वीडियो और छवियों को प्रोसेस करने की अनुमति देता है। यह त्वरित कार्यों के लिए एक उपयोग में आसान UI और डेटा प्रोसेसिंग को ऑटोमेट करने के लिए एक व्यापक API प्रदान करता है—जो छोटे और बड़े दोनों वर्कलोड के लिए उपयुक्त है।
कॉन्फ़िगर योग्य प्रोसेसिंग वर्कफ़्लो, वास्तविक समय निगरानी, और इवेंट-आधारित सूचनाओं के साथ, Roboflow बैच प्रोसेसिंग आपको डेटा प्रोसेसिंग को कुशलतापूर्वक प्रबंधित करने, प्रगति ट्रैक करने, और अन्य सिस्टम के साथ एकीकृत करने में मदद करता है—जिससे अपने लक्ष्यों को प्राप्त करना आसान हो जाता है।
लाभ:
स्केलेबिलिटी: सेवा स्वचालित रूप से आपके डेटा वॉल्यूम के अनुसार स्केल होती है, और लाखों छवियों और हजारों वीडियो फ़ाइलों को कुशलता से प्रोसेस करने में सक्षम है।
उपयोग में सरलता: आप सेवा का उपयोग कई तरीकों से कर सकते हैं—एक सरल UI क्लिक से लेकर CLI कमांड निष्पादित करने तक, और यहाँ तक कि production-grade automations बनाने तक जो आपके सिस्टम के साथ सहज रूप से एकीकृत होते हैं।
कोई इन्फ्रास्ट्रक्चर प्रबंधन नहीं: Roboflow सभी इन्फ्रास्ट्रक्चर और डेटा प्रबंधन को संभालता है, इसलिए आप अपने व्यावसायिक उपयोग-मामलों के समाधान पर ध्यान केंद्रित कर सकते हैं।
सीमाएँ:
प्रोसेसिंग की असिंक्रोनस प्रकृति: बैच प्रोसेसिंग सेवा तब बैकग्राउंड में प्रोसेसिंग जॉब लॉन्च करती है जब compute संसाधन उपलब्ध होते हैं। जबकि आवश्यक सर्वरों को प्रोविजन करने में आमतौर पर केवल कुछ ही मिनट लगते हैं, जॉब की सटीक शुरुआत समय की कोई गारंटी नहीं है। परिणामस्वरूप, यह सेवा वास्तविक समय प्रोसेसिंग के लिए उपयुक्त नहीं है।
Custom Python Blocks समर्थित नहीं: चूंकि सेवा Roboflow के इन्फ्रास्ट्रक्चर पर चलती है, हम वर्तमान में Custom Python Blocks के माध्यम से मनमाना कोड निष्पादन का समर्थन नहीं करते।
Dedicated Deployments
Dedicated Deployments आपके मॉडल चलाने के लिए समर्पित GPUs और CPUs प्रदान करते हैं। यह विकल्प लगातार प्रदर्शन, संसाधन पृथकता, और बेहतर सुरक्षा प्रदान करता है, जिससे यह उन मांगलिक अनुप्रयोगों और प्रोडक्शन वर्कलोड के लिए उपयुक्त है जिन्हें संसाधन पृथकता या कस्टम कोड निष्पादन की आवश्यकता होती है।
लाभ:
सतत प्रदर्शन: समर्पित संसाधन आपके मॉडल के लिए सतत प्रदर्शन सुनिश्चित करते हैं।
संसाधन पृथकता: आपके मॉडल पृथक संसाधनों पर चलते हैं, जिससे अन्य उपयोगकर्ताओं से हस्तक्षेप रोका जाता है।
GPU समर्थन: आप समर्पित डिप्लॉयमेंट पर उन बड़े मॉडलों को चला सकते हैं जिन्हें GPU समर्थन की आवश्यकता होती है (जैसे उदाहरण के लिए SAM2, CogVML)
सीमाएँ:
केवल अमेरिका-आधारित डेटा सेंटर्स तक सीमित: वर्तमान में, Dedicated Deployments केवल अमेरिका-आधारित डेटा सेंटर्स में उपलब्ध हैं, जिससे अन्य क्षेत्रों के उपयोगकर्ताओं के लिए उच्चतर लेटेंसी हो सकती है।
Last updated
Was this helpful?