Raspberry Pi पर इंस्टॉल करें

Docker के साथ 64-bit Raspberry Pi 4 या 5 पर Roboflow Inference Server इंस्टॉल करें, और अपेक्षित प्रदर्शन क्या होगा।

Inference Raspberry Pi 4 Model B और Raspberry Pi 5 पर काम करता है, बशर्ते आप उपयोग करें ऑपरेटिंग सिस्टम का 64-बिट संस्करण. यदि आपका SD कार्ड पर्याप्त बड़ा है, तो हम 64-बिट "डेस्कटॉप और अनुशंसित सॉफ़्टवेयर के साथ Raspberry Pi OS" संस्करण की अनुशंसा करते हैं।

एक बार जब आपने 64-बिट OS स्थापित कर लिया हो, Docker इंस्टॉल करें; फिर सही Inference Docker कंटेनर को स्वचालित रूप से चुनने, कॉन्फ़िगर करने और शुरू करने के लिए Inference CLI का उपयोग करें:

pip install inference-cli
inference server start

हार्डवेयर त्वरण

Inference अभी तक Raspberry Pi पर हार्डवेयर त्वरण का समर्थन नहीं करता है। "Roboflow 3.0 Fast" ऑब्जेक्ट डिटेक्शन मॉडल (जो आकार में "nano" YOLO मॉडल के समकक्ष है) के लिए Pi 4 पर लगभग 1 FPS और Pi 5 पर 4 FPS की उम्मीद करें।

Segment Anything जैसे बड़े मॉडल और Florence-2 जैसे VLMs Pi की कंप्यूट क्षमता पर संघर्ष करेंगे। यदि आपको अधिक फ्रेमरेट या बड़े मॉडल चाहिए, तो विचार करें एक NVIDIA Jetson.

कंटेनर को मैन्युअल रूप से शुरू करना

यदि आप कंटेनर सेटिंग्स पर अधिक नियंत्रण चाहते हैं, तो इसे स्वयं शुरू करें:

sudo docker run -d \\
    --name inference-server \\
    --read-only \\
    -p 9001:9001 \\
    --volume ~/.inference/cache:/tmp:rw \\
    --security-opt="no-new-privileges" \\
    --cap-drop="ALL" \\
    --cap-add="NET_BIND_SERVICE" \\
    roboflow/roboflow-inference-server-cpu:latest

Docker Compose

यदि आप अपने एप्लिकेशन के लिए Docker Compose का उपयोग करते हैं, तो समकक्ष YAML है:

version: "3.9"

सेवाएँ:
  inference-server:
    container_name: inference-server
    image: roboflow/roboflow-inference-server-cpu:latest

    read_only: true
    पोर्ट्स:
      - "9001:9001"

    वॉल्यूम्स:
      - "${HOME}/.inference/cache:/tmp:rw"

    security_opt:
      - no-new-privileges
    cap_drop:
      - ALL
    cap_add:
      - NET_BIND_SERVICE

Roboflow Enterprise योजनाएँ जोड़ती हैं एक Helm chart Kubernetes परिनियोजनों, OT नेटवर्क के लिए नेटवर्किंग समाधानों, और अनुकूलित सहायता तथा स्थापना पैकेजों के लिए। बिक्री टीम से संपर्क करें अधिक जानने के लिए।

अगले चरण

• मॉडल चलाएँ अपने नए सर्वर के विरुद्ध।

• Docker कॉन्फ़िगरेशन विकल्प पोर्ट, कैशिंग, और मॉडल सीमाओं के लिए।

• self-hosted सर्वर को सुरक्षित करना उसे localhost से बाहर उजागर करने से पहले।