कुबेरनेट्स

कुबेरनेट्स पर रोबोफ्लो इनफेरेंस के साथ शुरुआत करें

अपडेट: यदि आप एक रोबोफ्लो एंटरप्राइज ग्राहक हैं तो आप अपने क्यूबेरनेट्स वातावरण में रोबोफ्लो इंफेरेंस सर्विस को डिप्लॉय कर सकते हैं इस हेल्म चार्ट का उपयोग करके.

वैकल्पिक रूप से, यहां कुछ सरल क्यूबेरनेट्स मैनिफेस्ट हैं जिनसे आप एक पॉड और सर्विस को क्यूबेरनेट्स क्लस्टर में डिप्लॉय कर सकते हैं।

नीचे दिया गया क्यूबेरनेट्स मैनिफेस्ट एक साधारण उदाहरण दिखाता है जिसमें एक सिंगल सीपीयू-आधारित रोबोफ्लो इंफेर पॉड बनाया गया है और उसमें एक क्लस्टर-आईपी सर्विस जोड़ी गई है।

# पॉड
---
apiVersion: v1
kind: Pod
metadata:
  name: roboflow
  labels:
    app.kubernetes.io/name: roboflow
spec:
  containers:
  - name: roboflow
    image: roboflow/roboflow-inference-server-cpu
    ports:
    - containerPort: 9001
      name: rf-pod-port


# सर्विस
---
apiVersion: v1
kind: Service
metadata:
  name: rf-service
spec:
  type: ClusterIP
  selector:
    app.kubernetes.io/name: roboflow
  ports:
  - name: rf-svc-port
    protocol: TCP
    port: 9001
    targetPort: rf-pod-port

(ऊपर दिया गया उदाहरण मानता है कि आपका क्यूबेरनेट्स क्लस्टर डॉकर हब से इमेज डाउनलोड कर सकता है)

ऊपर दिए गए yaml के हिस्से को इस नाम से सेव करें roboflow.yaml और उपयोग करें kubectl cli ताकि पॉड और सर्विस को अपने क्यूबेरनेट्स क्लस्टर के डिफ़ॉल्ट namespace में डिप्लॉय कर सकें।

kubectl apply -f roboflow.yaml

एक सर्विस (प्रकार ClusterIP) बनाई जाएगी; आप क्यूबेरनेट्स क्लस्टर के भीतर इस URI पर रोबोफ्लो इंफेरेंस एक्सेस कर सकते हैं: http://rf-service.default.svc:9001

इस उदाहरण से आगे

क्यूबेरनेट्स आपको अपने रोबोफ्लो इंफेरेंस सर्विस में कई उन्नत फीचर्स और एक्सटेंशन जोड़ने की शक्ति देता है। उदाहरण के लिए, आप ऊपर दिए गए उदाहरण को और उन्नत उपयोग के मामलों के लिए बढ़ा सकते हैं जैसे कि

• nodeSelectors का उपयोग करके पॉड(s) को अपने क्यूबेरनेट्स वातावरण के GPU मशीन नोड पूल्स पर होस्ट करना और उपयोग करना roboflow/inference-server:gpu इमेज

• क्यूबेरनेट्स डिप्लॉयमेंट बनाना ताकि रोबोफ्लो इंफेरेंस सर्विस को क्षैतिज रूप से ऑटोस्केल किया जा सके और CPU उपयोग जैसी विशिष्ट मेट्रिक्स के आधार पर ऑटो-स्केलिंग ट्रिगर सेट करना।

• nodePort और LoadBalancer जैसे विभिन्न सर्विस प्रकारों का उपयोग करके रोबोफ्लो इंफेरेंस सर्विस को बाहरी रूप से सर्व करना

• इंग्रेस कंट्रोलर्स का उपयोग करके रोबोफ्लो इंफेरेंस को TLS (HTTPs) आदि पर एक्सपोज़ करें।

• अपने रोबोफ्लो इंफेरेंस सर्विस में मॉनिटरिंग और अलर्टिंग जोड़ें

• लाइसेंस सर्वर और ऑफलाइन मोड्स को इंटीग्रेट करना