Inference CLI

Inference Server चलाने, Workflows के साथ डेटा प्रोसेस करने, benchmarking करने, predictions बनाने, और cloud में deploy करने के लिए command-line tool.

Roboflow Inference CLI के लिए एक कमांड-लाइन इंटरफ़ेस है इन्फरेंस इकोसिस्टम। इसका उपयोग करें:

• को चलाने और प्रबंधित करने के लिए Inference Server स्थानीय रूप से

• के साथ डेटा प्रोसेस करने के लिए वर्कफ़्लोज़

• बेंचमार्क करें इन्फरेंस प्रदर्शन

• करें पूर्वानुमान अपने मॉडलों से

• Inference Server को ... पर तैनात करें क्लाउड

इंस्टॉलेशन

pip install inference-cli

यदि आपने इन्फरेंस Python पैकेज स्थापित किया है, तो CLI पहले से ही शामिल है।

यह Inference CLI (inference ...), जो ओपन-सोर्स Inference Server को प्रबंधित करता है। यह Roboflow CLI (roboflow ...), जो प्रोजेक्ट, डेटासेट और वर्ज़न जैसी प्लेटफ़ॉर्म संसाधनों का प्रबंधन करता है।

समर्थित डिवाइस

Inference CLI वर्तमान में निम्नलिखित डिवाइस लक्ष्यों का समर्थन करता है:

• x86 CPU

• ARM64 CPU

• NVIDIA GPU (Jetson सहित)

Jetson-विशिष्ट Inference Server इमेज के लिए, देखें Inference Server पृष्ठ या इमेज सीधे पुल करें।

कमांड

कमांड	विवरण
इन्फरेंस सर्वर	स्थानीय Inference Server को शुरू, रोकें और जाँचें।
inference infer	इमेज, डायरैक्टरी और वीडियो फ़ाइलों पर पूर्वानुमान चलाएँ।
inference workflows	एक Workflow के साथ इमेज और वीडियो प्रोसेस करें।
inference benchmark	Inference Server या the का बेंचमार्क करें इन्फरेंस Python पैकेज।
inference cloud	Inference Server को AWS या GCP वर्चुअल मशीनों पर तैनात करें।