ऑफ़लाइन मोड

Roboflow Enterprise ग्राहक models को offline डिप्लॉय कर सकते हैं।

Roboflow Enterprise ग्राहकों के लिए ऑफ़लाइन मोड के लिए आवश्यक है कि आप हमारा Docker कंटेनर उपयोग करें।

Roboflow Enterprise ग्राहक Roboflow Inference, हमारे ऑन-डिवाइस इन्फ़रेंस सर्वर, को 30 दिनों तक वज़न कैश करने के लिए कॉन्फ़िगर कर सकते हैं।

इससे आपका मॉडल पूरी तरह एयर-गैप्ड रूप से या उन स्थानों पर चल सकता है जहाँ इंटरनेट कनेक्शन आसानी से उपलब्ध नहीं होता।

अपना मॉडल ऑफ़लाइन चलाने के लिए, आपको यह करना होगा:

1. एक Docker वॉल्यूम बनाएं और उसे संलग्न करें /tmp/cache अपने इन्फ़रेंस सर्वर पर।

2. Docker के साथ एक Roboflow Inference सर्वर शुरू करें।

3. सर्वर के माध्यम से अपने मॉडल के लिए एक अनुरोध करें, जो मॉडल वज़न डाउनलोड और कैश प्रक्रिया शुरू करेगा। इस चरण के लिए आपको इंटरनेट कनेक्शन की आवश्यकता होगी।

एक बार आपके वज़न कैश हो जाने पर, आप उन्हें स्थानीय रूप से उपयोग कर सकते हैं।

नीचे, हम CPU से GPU तक विभिन्न डिवाइस प्रकारों पर अपना मॉडल ऑफ़लाइन चलाने के निर्देश प्रदान करते हैं।

CPU

छवि: roboflow / roboflow-inference-server-cpu

sudo docker volume create roboflow
sudo docker run --net=host --env LICENSE_SERVER=10.0.1.1 --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-cpu

GPU

GPU कंटेनर का उपयोग करने के लिए, आपको पहले इंस्टॉल करना होगा nvidia-container-runtime.

छवि: roboflow / roboflow-inference-server-gpu

sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --gpus all --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-gpu

Jetson 4.5

आपके Jetson Jetpack 4.5 में पहले से होगा https://github.com/NVIDIA/nvidia-container-runtime इंस्टॉल है।

छवि: roboflow/roboflow-inference-server-jetson-4.5.0

sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.5.0

Jetson 4.6

आपके Jetson Jetpack 4.6 में पहले से होगा https://github.com/NVIDIA/nvidia-container-runtime इंस्टॉल है।

छवि: roboflow/roboflow-inference-server-jetson-4.6.1

sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-4.6.1

Jetson 5.1

आपके Jetson Jetpack 5.1 में पहले से होगा https://github.com/NVIDIA/nvidia-container-runtime इंस्टॉल है।

छवि: roboflow/roboflow-inference-server-jetson-5.1.1

sudo docker volume create roboflow
docker run -it --rm -p 9001:9001 --runtime=nvidia --mount source=roboflow,target=/tmp/cache roboflow/roboflow-inference-server-jetson-5.1.1

इन्फ़रेंस चलाना

अपने इन्फ़रेंस सर्वर को स्थानीय कैशिंग के साथ सेट अप करने के बाद, आप इंटरनेट कनेक्शन के बिना छवियों और वीडियो फ़्रेमों पर अपना मॉडल चला सकते हैं।

देखें मॉडल चलाएँ अपना मॉडल कैसे चलाना है, इस बारे में मार्गदर्शन के लिए।

इन्फ़रेंस परिणाम

वज़न इंटरनेट के माध्यम से आपके Roboflow खाते से (यदि आपने इसे कॉन्फ़िगर किया है तो License Server के माध्यम से) SSL एन्क्रिप्शन के साथ लोड किए जाएंगे और 30 दिनों तक Docker वॉल्यूम में सुरक्षित रूप से संग्रहीत किए जाएंगे।

आपके इन्फ़रेंस परिणामों में एक नया समाप्ति कुंजी होगी जिसका उपयोग आप यह निर्धारित करने के लिए कर सकते हैं कि Inference Server इंटरनेट या License Server कनेक्शन के माध्यम से वज़नों पर अपना लीज़ नवीनीकृत करने से पहले कितनी देर तक भविष्यवाणियाँ प्रदान कर सकता है। एक बार वज़न की समाप्ति तिथि 7 दिनों से कम हो जाने पर, Inference Server हर घंटे एक बार वज़नों के लीज़ को नवीनीकृत करने का प्रयास करना शुरू करेगा, जब तक कि Roboflow API से कनेक्शन सफलतापूर्वक स्थापित न हो जाए।

एक बार लीज़ नवीनीकृत हो जाने पर, काउंटर 30 दिनों पर रीसेट हो जाएगा।

{
    "predictions": [
        {
            "x": 340.9,
            "y": 263.6,
            "width": 284,
            "height": 360,
            "class": "उदाहरण",
            "confidence": 0.867
        }
    ],
    "expiration": {
        "value": 29.91251408564815,
        "unit": "दिन"
    }
}

यदि आपके पास अपना मॉडल ऑफ़लाइन डिप्लॉय करने के बारे में प्रश्न हैं, तो मार्गदर्शन के लिए अपने Roboflow प्रतिनिधि से संपर्क करें।