मॉडल या वर्कफ़्लो तैनात करें

जानें कि रोबोफ्लो पर प्रशिक्षित या अपलोड किए गए मॉडल्स को कैसे तैनात करें।

आप Roboflow पर प्रशिक्षित या अपलोड किए गए किसी भी मॉडल और किसी भी वर्कफ़्लो को Roboflow की डिप्लॉयमेंट सेवाओं के साथ डिप्लॉय कर सकते हैं।

हमारी डिप्लॉयमेंट सेवाएँ दो श्रेणियों में आती हैं:

• प्रबंधित डिप्लॉयमेंट्स: ये विकल्प आपके मॉडल चलाने के लिए Roboflow के क्लाउड इन्फ्रास्ट्रक्चर का उपयोग करते हैं, जिससे आपको अपना हार्डवेयर या सॉफ़्टवेयर प्रबंधित करने की आवश्यकता नहीं रहती।

• स्व-होस्टेड डिप्लॉयमेंट्स: ये विकल्प आपको अपने हार्डवेयर पर मॉडल डिप्लॉय करने की अनुमति देते हैं, जिससे आपको अपने वातावरण और संसाधनों पर अधिक नियंत्रण मिलता है।

निम्नलिखित तालिका प्रत्येक डिप्लॉयमेंट विकल्प की मुख्य विशेषताओं, लाभों और सीमाओं का सारांश प्रस्तुत करती है:

डिप्लॉयमेंट विकल्प	विवरण	लाभ	सीमाएँ
सर्वरलेस होस्टेड API V2	वर्कफ़्लो और मॉडल को सीधे Roboflow के इन्फ्रास्ट्रक्चर पर GPU हार्डवेयर पर चलाएँ।	GPU मॉडल के लिए समर्थन।	संसाधनों पर सीमित नियंत्रण, मांग वाले अनुप्रयोगों या उच्च लोड की अवधि के दौरान उच्च विलंबता की संभावना
सर्वरलेस एपीआई	वर्कफ़्लो और मॉडल को सीधे Roboflow के इन्फ्रास्ट्रक्चर पर अनंत रूप से स्केलेबल API के माध्यम से चलाएँ।	स्केलेबल, उपयोग में आसान, कोई इन्फ्रास्ट्रक्चर प्रबंधन नहीं।	संसाधनों पर सीमित नियंत्रण, मांग वाले अनुप्रयोगों के लिए उच्च विलंबता की संभावना।
डेडिकेटेड डिप्लॉयमेंट्स	वर्कफ़्लो और मॉडल चलाने के लिए समर्पित GPU और CPU।	GPU मॉडल, वीडियो स्ट्रीमिंग, कस्टम पायथन ब्लॉक्स के लिए समर्थन।	केवल अमेरिका-आधारित डेटा सेंटर्स तक सीमित। सर्वरलेस API की तरह ऑटोस्केलिंग नहीं है।
बैच प्रोसेसिंग	आपकी छवियों और वीडियो को चयनित वर्कफ़्लो के साथ संसाधित करने के लिए प्रबंधित सर्वर पूल।	पूरी तरह से प्रबंधित समाधान जो उच्च डेटा थ्रूपुट और लागत दक्षता प्रदान करता है, GPU समर्थन के साथ आपके डेटा वॉल्यूम के अनुसार सहजता से स्केलेबल।	गैर-रीयल-टाइम प्रोसेसिंग और कस्टम पायथन ब्लॉक्स के लिए समर्थन नहीं।
स्व-होस्टेड डिप्लॉयमेंट्स	अपने स्वयं के हार्डवेयर पर इंफरेंस चलाएँ।	संसाधनों और वातावरण पर पूरा नियंत्रण, कम विलंबता की संभावना।	इन्फ्रास्ट्रक्चर प्रबंधन और विशेषज्ञता की आवश्यकता होती है।

इंफरेंस क्या है?

कंप्यूटर विज़न में, इंफरेंस का अर्थ है प्रशिक्षित मॉडल का उपयोग करके नई छवियों या वीडियो का विश्लेषण करना और भविष्यवाणियाँ करना। उदाहरण के लिए, एक ऑब्जेक्ट डिटेक्शन मॉडल का उपयोग वीडियो स्ट्रीम में वस्तुओं की पहचान और स्थान निर्धारित करने के लिए किया जा सकता है, या एक वर्गीकरण मॉडल का उपयोग छवियों को उनकी सामग्री के आधार पर वर्गीकृत करने के लिए किया जा सकता है।

रोबोफ्लो इन्फरेंस एक ओपन-सोर्स प्रोजेक्ट है जो कंप्यूटर विज़न मॉडल और वर्कफ़्लो को डिप्लॉय करने के लिए एक शक्तिशाली और लचीला फ्रेमवर्क प्रदान करता है। यह Roboflow की अधिकांश प्रबंधित डिप्लॉयमेंट सेवाओं का इंजन है। आप इसे स्वयं होस्ट भी कर सकते हैं या अपने विज़न वर्कफ़्लो को एज डिवाइस पर डिप्लॉय करने के लिए उपयोग कर सकते हैं। Roboflow Inference कई विशेषताएँ और क्षमताएँ प्रदान करता है, जिनमें शामिल हैं:

• विभिन्न मॉडल आर्किटेक्चर और कार्यों के लिए समर्थन, जिसमें ऑब्जेक्ट डिटेक्शन, वर्गीकरण, इंस्टेंस सेगमेंटेशन आदि शामिल हैं।

• वर्कफ़्लो, जो आपको विभिन्न मॉडल, पूर्व-निर्मित लॉजिक और बाहरी अनुप्रयोगों को सैकड़ों बिल्डिंग ब्लॉक्स में से चुनकर जोड़ने की सुविधा देता है, जिससे आप कंप्यूटर विज़न एप्लिकेशन बना सकते हैं।

• विभिन्न उपकरणों पर अनुकूलित प्रदर्शन के लिए हार्डवेयर एक्सेलेरेशन, जिसमें CPU, GPU और NVIDIA Jetson जैसे एज डिवाइस शामिल हैं।

• संसाधनों के कुशल उपयोग के लिए मल्टीप्रोसेसिंग।

• वीडियो स्ट्रीम की सहज प्रोसेसिंग के लिए वीडियो डिकोडिंग।

• डिप्लॉयमेंट को सरल बनाने के लिए HTTP इंटरफ़ेस, API और डॉकर इमेज

• Roboflow की होस्टेड डिप्लॉयमेंट विकल्पों और Roboflow प्लेटफ़ॉर्म के साथ एकीकरण।

वर्कफ़्लो क्या है?

वर्कफ़्लो आपको विभिन्न मॉडल, पूर्व-निर्मित लॉजिक और बाहरी अनुप्रयोगों को जोड़कर जटिल कंप्यूटर विज़न एप्लिकेशन बनाने में सक्षम बनाते हैं। वे जटिल कंप्यूटर विज़न पाइपलाइनों को डिज़ाइन और डिप्लॉय करने के लिए एक दृश्य, लो-कोड वातावरण प्रदान करते हैं।

वर्कफ़्लो के साथ, आप कर सकते हैं:

• जटिल कार्यों को करने के लिए कई मॉडलों को एक साथ जोड़ें।

• अपने अनुप्रयोगों में कस्टम लॉजिक और निर्णय-निर्माण जोड़ें।

• बाहरी प्रणालियों और API के साथ एकीकरण करें।

• छवियों और वीडियो में वस्तुओं को ट्रैक, गिनती, समय, माप और विज़ुअलाइज़ करें।

सही डिप्लॉयमेंट विकल्प चुनना

इंफरेंस गेटिंग स्टार्टेड गाइड में आपके उपयोग केस के लिए सर्वोत्तम डिप्लॉयमेंट विधि चुनने के बारे में एक शानदार गाइड है: https://inference.roboflow.com/start/getting-started/

आपके लिए सर्वोत्तम डिप्लॉयमेंट विकल्प आपकी विशिष्ट आवश्यकताओं और मांगों पर निर्भर करता है। निर्णय लेते समय निम्नलिखित कारकों पर विचार करें:

• स्केलेबिलिटी: यदि आपके एप्लिकेशन को विभिन्न स्तरों के ट्रैफ़िक या डेटा वॉल्यूम को संभालने की आवश्यकता है, तो सर्वरलेस API रीयल-टाइम उपयोग मामलों के लिए उत्कृष्ट स्केलेबिलिटी प्रदान करता है; अन्यथा, बैच प्रोसेसिंग एक सुझाया गया विकल्प है।

• विलंबता: यदि आपको कम विलंबता या वीडियो प्रोसेसिंग की आवश्यकता है, तो समर्पित डिप्लॉयमेंट या शक्तिशाली हार्डवेयर के साथ स्व-होस्टेड डिप्लॉयमेंट सर्वोत्तम विकल्प हो सकते हैं।

• GPU: यदि आपको ऐसे मॉडल चलाने हैं जिन्हें GPU की आवश्यकता है (जैसे SAM2, CogVML आदि), तो आपको GPU मशीन टाइप के साथ डेडिकेटेड डिप्लॉयमेंट या ऐसे हार्डवेयर पर स्व-होस्टेड डिप्लॉयमेंट का उपयोग करना होगा जिसमें GPU उपलब्ध हों। (सर्वरलेस GPU API जल्द आ रहा है)

• नियंत्रण: स्व-होस्टेड डिप्लॉयमेंट आपके वातावरण और संसाधनों पर सबसे अधिक नियंत्रण प्रदान करते हैं।

• विशेषज्ञता: स्व-होस्टेड डिप्लॉयमेंट को सेटअप और प्रबंधित करने के लिए अधिक तकनीकी विशेषज्ञता की आवश्यकता होती है।