वीडियो कॉन्फ़िगरेशन
मैनेज्ड वीडियो वर्करों के लिए सीमाएँ सेट करें और self-hosted Inference में सर्वर-साइड वीडियो स्रोत कॉन्फ़िगर करें।
वीडियो वर्कर्स को उसी सर्वर पर कॉन्फ़िगर करें जो उन्हें चलाता है। ये सेटिंग्स एकीकृत स्ट्रीम मैनेजर को कवर करती हैं; ये प्रबंधित Serverless Video Streaming API या स्थानीय Python InferencePipeline पर सीमाएँ निर्धारित नहीं करतीं।
env.py सुरक्षा कॉन्फ़िगरेशन माइग्रेशन संस्करण के दायरे के लिए।
प्रबंधित पाइपलाइन सीमाएँ
managed pipeline processes की अधिकतम सीमा, idle workers सहित। जिन requests को cap से ऊपर नए worker की आवश्यकता होती है, उन्हें अस्वीकार कर दिया जाता है। यदि STREAM_API_PRELOADED_PROCESSES अधिक है, तो इसे उसी तक बढ़ाया जाता है। देखें डिफ़ॉल्ट रूप से 8 और व्यस्त तथा निष्क्रिय वर्कर्स सहित, कुल प्रबंधित पाइपलाइन प्रक्रियाओं की सीमा तय करता है। प्रभावी सीमा कॉन्फ़िगर किए गए मान और warm idle video workers की लक्ष्य संख्या, जो GPU पर worker start time को कम करती है। Images इसे override कर सकती हैं।में से बड़ा मान होती है, इसलिए यह पूर्व-लोड किए गए वर्कर्स की संख्या से कम नहीं हो सकती।
managed pipeline processes की अधिकतम सीमा, idle workers सहित। जिन requests को cap से ऊपर नए worker की आवश्यकता होती है, उन्हें अस्वीकार कर दिया जाता है। यदि STREAM_API_PRELOADED_PROCESSES अधिक है, तो इसे उसी तक बढ़ाया जाता है। देखें
8
प्रबंधित पाइपलाइन प्रक्रियाओं को सीमित करता है; आवश्यकता होने पर इसे प्रीलोड गिनती तक बढ़ा दिया जाता है।
warm idle video workers की लक्ष्य संख्या, जो GPU पर worker start time को कम करती है। Images इसे override कर सकती हैं।
कोर लाइब्रेरी में 0; इमेजें इसे ओवरराइड कर सकती हैं
गर्म निष्क्रिय वर्कर्स की लक्षित संख्या निर्धारित करता है।
stream manager और उसके workers के लिए कुल RAM budget। जब अनुमानित total इससे अधिक होगा, तो नए workers अस्वीकार कर दिए जाते हैं। यह estimate-आधारित सुरक्षा है, hard memory limit नहीं।
अनसेट
मापी गई और अनुमानित RAM उपयोग के आधार पर नए पाइपलाइन आवंटन को वैकल्पिक रूप से अस्वीकार करता है।
प्रक्रिया सीमा पर, मैनेजर एक निष्क्रिय वर्कर का पुनः उपयोग कर सकता है, लेकिन एक और प्रक्रिया शुरू करने से इनकार करता है। बैकग्राउंड वॉर्म पूल भी इस सीमा का पालन करता है; एक व्यस्त वर्कर तब भी एक स्लॉट ले लेता है, जब लक्ष्य निष्क्रिय संख्या अभी तक प्राप्त नहीं हुई हो।
क्षमता सेट करें
सर्वर शुरू करते समय क्षमता सेटिंग्स को एक environment फ़ाइल के माध्यम से पास करें:
STREAM_MANAGER_MAX_ACTIVE_PIPELINES=16
STREAM_API_PRELOADED_PROCESSES=2inference server start --env-file inference.envअपने मॉडल और हार्डवेयर के अनुरूप एक सकारात्मक सीमा चुनें, और इसे बढ़ाने से पहले अप्रयुक्त पाइपलाइनों को समाप्त करें। यह एक प्रक्रिया सीमा है, प्रति-उपयोगकर्ता कोटा नहीं, अनुरोध दर सीमा नहीं, या RAM या GPU मेमोरी की कठोर सीमा नहीं।
सर्वर-पक्षीय वीडियो संदर्भ
इस अनुभाग के नियम लंबित runtime-hardening build पर लागू होते हैं, जो माइग्रेशन गाइड. मानक स्ट्रीम मैनेजर और एंटरप्राइज़ स्ट्रीम अनुरोध स्कीमा, प्रदान किए गए मीडिया संदर्भ को वीडियो बैकएंड तक पहुँचने से पहले सत्यापित करते हैं।
समर्थित इनपुट हैं:
पूर्णांक कैमरा इंडेक्स, जैसे
0, और संख्यात्मक CSI संदर्भ, जैसेcsi://0.पूर्ण या स्पष्ट सापेक्ष पथ, जैसे
/video.mp4,./video.mp4,../video.mp4, या Windows ड्राइव पथ।इनका उपयोग करके एन्कोड किए गए URL
http,https,rtsp,rtsps,rtspt,rtspst,rtmp,rtmps,udp,srt,rtp,tcp, याfile.जब अनुरोध स्कीमा अनुमति देता है, तब समर्थित संदर्भों की सूचियाँ।
चुनी गई इमेज को उस ट्रांसपोर्ट के लिए एक डिकोडर प्रदान करना चाहिए, और पथ सर्वर कंटेनर के अंदर पढ़ने योग्य होने चाहिए। यह सत्यापन कैमरा नेटवर्क गंतव्यों को सीमित नहीं करता; image URL नियंत्रण एक अलग नीति हैं।
मौजूदा संदर्भों को अपडेट करें
लिखें video.mp4 के रूप में ./video.mp4. URL में whitespace और उद्धरण चिह्नों को एन्कोड करें, और उन स्थानीय पथों का नाम बदलें जिनमें !, =, या उद्धरण चिह्न हों; असमर्थित स्कीम और कच्चे GStreamer विवरण डिफ़ॉल्ट रूप से अस्वीकार किए जाते हैं।
कच्ची GStreamer पाइपलाइनों का उपयोग करें
विश्वसनीय वर्कलोड के लिए जिन्हें कच्ची लॉन्च सिंटैक्स की आवश्यकता होती है, यह सेट करें:
यह मीडिया-संदर्भ सत्यापन को बायपास करता है और कच्ची पाइपलाइन व्याख्या को पुनर्स्थापित करता है, जिसमें स्थापित प्लगइन्स की क्षमताएँ भी शामिल हैं। समर्थित RTSP और RTMP URL के लिए इस opt-in की आवश्यकता नहीं है, और यह गुम GStreamer प्लगइन्स को इंस्टॉल नहीं करता।
क्लाइंट-पक्षीय वीडियो स्रोत
ये जाँचें सर्वर के स्ट्रीम अनुरोध स्कीमा को भेजे गए संदर्भों पर लागू होती हैं। ये SDK द्वारा स्थानीय रूप से खोली गई फ़ाइलों का नाम नहीं बदलतीं VideoFileSource या प्रत्यक्ष स्थानीय Python मीडिया उपयोग को नहीं बदलतीं।
env.py वर्कफ़्लोज़ के साथ वीडियो प्रोसेसिंग यह चुनने के लिए कि वीडियो कहाँ खोला जाए, और सर्वर सुरक्षा के लिए कि कौन पाइपलाइनों का प्रबंधन कर सकता है।
अंतिम अपडेट
क्या यह उपयोगी था?