प्रबंधित डिप्लॉयमेंट्स
Roboflow कई प्रबंधित डिप्लॉयमेंट विकल्प प्रदान करता है जो हमारे क्लाउड इंफ्रास्ट्रक्चर का उपयोग करके आपके मॉडल चलाते हैं। ये विकल्प उपयोग में आसान हैं और उत्कृष्ट स्केलेबिलिटी विकल्प प्रदान करते हैं, जिससे वे विभिन्न प्रकार के अनुप्रयोगों के लिए आदर्श हैं।
Serverless API
The Serverless Hosted API आपको वर्कफ़्लो और मॉडल सीधे Roboflow के इंफ्रास्ट्रक्चर पर एक अनंत-स्केलेबल API के माध्यम से चलाने की अनुमति देता है। यह आपके मॉडल डिप्लॉय करने और इन्फरेंस शुरू करने का सबसे आसान तरीका है।
लाभ:
स्केलेबिलिटी: API अपने आप आपके इन्फरेंस की आवश्यकता के अनुसार स्केल हो जाता है, इसलिए आपको सर्वर प्रोविजन या प्रबंधित करने की चिंता नहीं करनी पड़ती।
उपयोग में आसानी: आप अपने मॉडल को एक सरल REST API के माध्यम से एक्सेस कर सकते हैं, जिससे अपने अनुप्रयोगों में इन्फरेंस को एकीकृत करना आसान हो जाता है।
कोई इंफ्रास्ट्रक्चर प्रबंधन नहीं: Roboflow सारा इंफ्रास्ट्रक्चर संभालता है, जिससे आप अपने अनुप्रयोग बनाने पर ध्यान केंद्रित कर सकते हैं।
Workflow समर्थन: आपके सभी वर्कफ़्लो Serveless API पर API एंडपॉइंट्स के रूप में उपलब्ध हैं, जिससे आप एक साधारण HTTP अनुरोध का उपयोग करके अपने वर्कफ़्लो आसानी से चला सकते हैं।
सीमाएं:
वार्मअप अनुरोध: जब आप ऐसे अनुरोध करते हैं जिनमें किसी ऐसे मॉडल को लोड करना आवश्यक है जो अभी तक किसी सर्वर में लोड नहीं हुआ है, तो प्रारंभिक अनुरोधों में कुछ सेकंड की बढ़ी हुई विलंबता हो सकती है। बाद के अनुरोधों में, जैसे ही आपका मॉडल वर्तमान में चल रहे सर्वरों में कैश हो जाता है, अनुरोध की विलंबता काफी हद तक सुधर जाती है।
CPU आधारित: The Serverless Hosted API मॉडल इन्फरेंस के लिए CPU का उपयोग करता है; आपको Dedicated Deployments या Self-hosted Deployments की तुलना में अधिक विलंबता का अनुभव हो सकता है और आप ऐसे मॉडल का उपयोग नहीं कर सकते जिन्हें GPU की आवश्यकता होती है (Serverless GPU API जल्द आ रहा है).
Workflows
The Serverless Hosted API आपको चलाने की अनुमति देता है Workflows Roboflow क्लाउड में। इससे आप बिना अपना इंफ्रास्ट्रक्चर प्रबंधित किए जटिल कंप्यूटर विज़न अनुप्रयोग बना और चला सकते हैं।
आप वर्कफ़्लो को Dedicated Deployments या Self-hosted inference servers पर भी चला सकते हैं, जिससे आप अधिक शक्तिशाली GPU आधारित मॉडल का उपयोग कर सकते हैं और Custom Python Blocks.
आप यह जान सकते हैं कि Workflows कैसे बनाएँ, टेस्ट करें और डिप्लॉय करें यहाँ.
मॉडल इन्फरेंस
के अलावा वर्कफ़्लो आप किसी विशेष मॉडल पर भी इन्फर कर सकते हैं Serverless Hosted API. आप Roboflow पर ट्रेन किए गए किसी भी मॉडल, किसी भी समर्थित फाउंडेशन मॉडल, या ट्रेन किए गए मॉडल वाले प्रोजेक्ट्स को खोज सकते हैं https://universe.roboflow.com
का उपयोग कैसे करें - अवलोकन Serverless Hosted API:
Roboflow डैशबोर्ड से अपनी API कुंजी प्राप्त करें।
अपने इमेज और मॉडल जानकारी के साथ API एंडपॉइंट पर POST अनुरोध भेजें।
इन्फरेंस परिणाम JSON प्रारूप में प्राप्त करें।
देखें Serverless Hosted API विवरण और API विनिर्देशों के लिए docs
बैच प्रोसेसिंग
Roboflow Batch Processing एक पूर्ण रूप से प्रबंधित समाधान है जो Workflows द्वारा संचालित है, जो आपको बिना कोड लिखे बड़ी मात्रा में वीडियो और इमेज प्रोसेस करने की अनुमति देता है। यह त्वरित कार्यों के लिए उपयोग में आसान UI और डेटा प्रोसेसिंग को स्वचालित करने के लिए एक व्यापक API प्रदान करता है—जो छोटे और बड़े दोनों वर्कलोड के लिए उपयुक्त है।
कॉन्फ़िगर करने योग्य प्रोसेसिंग वर्कफ़्लो, रीयल-टाइम मॉनिटरिंग, और इवेंट-आधारित सूचनाओं के साथ, Roboflow Batch Processing आपको डेटा प्रोसेसिंग को कुशलतापूर्वक प्रबंधित करने, प्रगति ट्रैक करने, और अन्य सिस्टम के साथ एकीकृत करने में मदद करता है—जिससे अपने लक्ष्यों को प्राप्त करना आसान हो जाता है।
लाभ:
स्केलेबिलिटी: सेवा अपने आप आपके डेटा वॉल्यूम के अनुसार स्केल हो जाती है, और लाखों इमेज और हजारों वीडियो फाइल्स को कुशलतापूर्वक प्रोसेस कर सकती है।
उपयोग में आसानी: आप सेवा का उपयोग कई तरीकों से कर सकते हैं—एक साधारण UI क्लिक से लेकर CLI कमांड निष्पादित करने तक, और production-grade automations जो आपके सिस्टम के साथ सहजता से एकीकृत होती हैं।
कोई इंफ्रास्ट्रक्चर प्रबंधन नहीं: Roboflow सारा इंफ्रास्ट्रक्चर और डेटा प्रबंधन संभालता है, जिससे आप अपने व्यवसायिक उपयोग मामलों को हल करने पर ध्यान केंद्रित कर सकते हैं।
सीमाएं:
प्रोसेसिंग की असिंक्रोनस प्रकृति: Batch Processing सेवा प्रोसेसिंग जॉब्स को तब बैकग्राउंड में चलाती है जब कंप्यूट संसाधन उपलब्ध होते हैं। आमतौर पर आवश्यक सर्वर प्रोविजन करने में कुछ ही मिनट लगते हैं, लेकिन जॉब के लिए सटीक प्रारंभ समय की कोई गारंटी नहीं है। परिणामस्वरूप, यह सेवा रीयल-टाइम प्रोसेसिंग के लिए उपयुक्त नहीं है।
Custom Python Blocks समर्थित नहीं हैं: चूंकि सेवा Roboflow के इंफ्रास्ट्रक्चर पर चलती है, हम वर्तमान में Custom Python Blocks के माध्यम से मनमाना कोड निष्पादन का समर्थन नहीं करते हैं।
Dedicated Deployments
Dedicated Deployments आपके मॉडल चलाने के लिए समर्पित GPU और CPU प्रदान करते हैं। यह विकल्प लगातार प्रदर्शन, संसाधन पृथक्करण, और उन्नत सुरक्षा प्रदान करता है, जिससे यह उन अनुप्रयोगों और प्रोडक्शन वर्कलोड्स के लिए उपयुक्त है जिन्हें संसाधन पृथक्करण या कस्टम कोड निष्पादन की आवश्यकता होती है।
लाभ:
लगातार प्रदर्शन: समर्पित संसाधन आपके मॉडल के लिए लगातार प्रदर्शन सुनिश्चित करते हैं।
संसाधन पृथक्करण: आपके मॉडल पृथक संसाधनों पर चलते हैं, जिससे अन्य उपयोगकर्ताओं से हस्तक्षेप नहीं होता।
GPU समर्थन: आप Dedicated Deployments (जैसे SAM2, CogVML) पर GPU समर्थन की आवश्यकता वाले बड़े मॉडल चला सकते हैं
Custom Python Blocks: आप Dedicated Deployments पर डिप्लॉय करते समय अपने वर्कफ़्लो में custom python blocks का उपयोग कर सकते हैं।
सीमाएं:
केवल US-आधारित डेटा सेंटर्स तक सीमित: वर्तमान में, Dedicated Deployments केवल US-आधारित डेटा सेंटर्स में उपलब्ध हैं, जिससे अन्य क्षेत्रों के उपयोगकर्ताओं के लिए विलंबता अधिक हो सकती है।
Last updated
Was this helpful?