कॉन्फ़िगरेशन
एक self-hosted Roboflow Inference server को कॉन्फ़िगर, सुरक्षित, और मॉनिटर करें - कंटेनर विकल्प, environment variables, HTTPS, input formats, और metrics।
अंतिम अपडेट
क्या यह उपयोगी था?
एक self-hosted Roboflow Inference server को कॉन्फ़िगर, सुरक्षित, और मॉनिटर करें - कंटेनर विकल्प, environment variables, HTTPS, input formats, और metrics।
एक डिफ़ॉल्ट इन्फ़रेंस सर्वर शुरू किया गया inference server start स्थानीय विकास के लिए अनुकूलित है: यह सादे HTTP पर पोर्ट 9001 पर सुनता है, हर इनपुट फ़ॉर्मैट स्वीकार करता है, और कोई प्रमाणीकरण लागू नहीं करता। इस अनुभाग के पृष्ठ इस बात को कवर करते हैं कि सर्वर आपके लैपटॉप से आगे जाने के बाद आप क्या बदलते हैं।
अपना पहला मॉडल चलाने के लिए आपको इनमें से किसी की ज़रूरत नहीं है। जब आप सर्वर को अन्य मशीनों के लिए उपलब्ध कराना चाहते हैं, उसे प्रोडक्शन में चलाना चाहते हैं, उसके संसाधन उपयोग को सीमित करना चाहते हैं, या यह देखना चाहते हैं कि वह लोड के तहत कैसा व्यवहार करता है, तब यहाँ वापस आएँ।
Docker कॉन्फ़िगरेशन विकल्प - पोर्ट्स, CORS, वर्कर काउंट, NMS डिफ़ॉल्ट, मॉडल कैश, और Secure Gateway।
इन्फ़रेंस सर्वर पर्यावरण चर - सर्वर द्वारा पढ़े जाने वाले हर चर का पूर्ण संदर्भ, क्षेत्र के अनुसार समूहित।
स्व-होस्टेड सर्वर को सुरक्षित करना - नेटवर्क अलगाव, प्रमाणीकरण, TLS, कस्टम Python प्रतिबंध, और SSRF नियंत्रण। सर्वर को localhost से बाहर उपलब्ध कराने से पहले यहाँ से शुरू करें।
Serving Inference over HTTPS - अपने स्वयं के प्रमाणपत्र के साथ TLS समाप्त करें, एन्क्रिप्टेड कुंजियों का उपयोग करें, और पारस्परिक TLS की आवश्यकता रखें।
Accepted Input Formats - कौन-से पेलोड प्रकार सर्वर स्वीकार करता है, और pickled numpy arrays तथा URL image fetching जैसे अधिक जोखिम वाले प्रकारों को कैसे निष्क्रिय करें।
इन्फ़रेंस सर्वर टेलीमेट्री - चल रहे सर्वर के लिए Prometheus मेट्रिक्स और Docker कंटेनर आँकड़े।
का कॉन्फ़िगरेशन करना इन्फ़रेंस CLI और SDK सर्वर को कॉन्फ़िगर करने से अलग है। इन पृष्ठों पर मौजूद चर कंटेनर के अंदर सर्वर प्रक्रिया द्वारा पढ़े जाते हैं।
अंतिम अपडेट
क्या यह उपयोगी था?
क्या यह उपयोगी था?