Inference 1.0: मॉड्यूलर विज़न execution engine

Inference 1.0 अब उपलब्ध है, जो कंप्यूटर विज़न मॉडल चलाने के लिए एक पुनः-डिज़ाइन किया गया पूर्वानुमान इंजन है। यह अपडेट तेज़ मॉडल लोडिंग, बेहतर संसाधन उपयोग, और सर्विंग तथा मॉडल रनटाइम के बीच अधिक साफ़ अलगाव पर केंद्रित है।

नया इंजन बहु-बैकएंड समर्थन (जैसे PyTorch, ONNX, TensorRT), स्वचालित मॉडल लोडिंग, और एक संयोज्य डिपेंडेंसी सिस्टम प्रदान करता है, ताकि आप केवल आवश्यक घटक ही इंस्टॉल करें। यह स्थानीय तैनाती, Docker वर्कलोड, एज डिवाइसों, और उत्पादन प्रणालियों के लिए एक मॉड्यूलर आर्किटेक्चर प्रदान करता है।

रिलीज़ नोट्स पढ़ें