For the complete documentation index, see llms.txt. This page is also available as Markdown.

मॉडल पैकेज सुरक्षा

सर्वर प्रमाणीकरण के साथ भ्रमित किए बिना प्रति-मॉडल प्राधिकरण और स्थानीय या अविश्वसनीय मॉडल पैकेज लोडिंग कॉन्फ़िगर करें।

मॉडल लोडिंग और सर्वर एक्सेस के लिए अलग नियंत्रण उपयोग किए जाते हैं। किसी क्लाइंट को सर्वर तक पहुंच देना हर मॉडल पैकेज को निष्पादन के लिए सुरक्षित नहीं बनाता।

जाँचें सुरक्षा कॉन्फ़िगरेशन माइग्रेशन कि कौन-से परिवर्तन मर्ज किए गए हैं और कौन-से लंबित हैं।

सर्वर एक्सेस और मॉडल प्राधिकरण

inference, Workflow, और integrated pipeline requests के लिए अनुमत Workspace slugs। देखें नियंत्रित करता है कि कौन-से Workspaces सर्वर को कॉल कर सकते हैं, जिसमें इसके एकीकृत स्ट्रीम प्रबंधन रूट भी शामिल हैं। MODELS_CACHE_AUTH_ENABLED=True जाँचता है कि जब सर्वर ऑनलाइन हो, तब कॉलर की API कुंजी अनुरोधित Roboflow मॉडल तक पहुंच सकती है या नहीं। मॉडल प्राधिकरण ... के लिए विकल्प नहीं है सर्वर प्रमाणीकरण.

प्रत्यक्ष स्थानीय पैकेज

सर्वर Workflows में विश्वसनीय स्थानीय पैकेजों के लिए, इन सेटिंग्स को सक्षम करें और पैकेज डायरेक्टरी को कंटेनर में माउंट करें:

, compute capability 7.5 या उससे अधिक वाला GPU (उदा.: T4, RTX 20-series और नए; V100 नहीं), और
ALLOW_INFERENCE_MODELS_DIRECTLY_ACCESS_LOCAL_PACKAGES=True
MODELS_CACHE_AUTH_ENABLED=False

यह कॉलरों को पढ़े जा सकने वाले स्थानीय मॉडल पैकेज लोड करने देता है, जिसमें उनका Python कोड भी शामिल है। स्थानीय लोडिंग पथ को स्वयं API कुंजी की आवश्यकता नहीं होती, लेकिन कॉन्फ़िगर किया गया कोई भी Workspace प्रमाणीकरण फिर भी अनुरोध पर लागू होता है।

एक ऑनलाइन सर्वर स्टार्टअप को अस्वीकार करता है यदि दोनों MODELS_CACHE_AUTH_ENABLED=True और ALLOW_INFERENCE_MODELS_DIRECTLY_ACCESS_LOCAL_PACKAGES=True. जब आपको प्रति-मॉडल प्राधिकरण की आवश्यकता हो, तब स्थानीय लोडिंग को अक्षम रखें; किसी फ़ाइलसिस्टम पथ की जाँच कॉलर के Roboflow मॉडल एक्सेस के विरुद्ध नहीं की जा सकती।

ऑफ़लाइन प्राधिकरण

जब OFFLINE_MODE=True, प्रति-मॉडल API-की जाँचें नहीं चल सकतीं। यदि MODELS_CACHE_AUTH_ENABLED=True भी सेट है, तो स्टार्टअप के लिए स्पष्ट ALLOW_OFFLINE_MODEL_CACHE_AUTH_BYPASS=True ऑप्ट-इन आवश्यक है। उस बायपास का उपयोग केवल एक विश्वसनीय सिंगल-टेनेंट तैनाती के लिए करें; यह API-की जाँचों को ऑफ़लाइन काम नहीं करने देता।

ऑफ़लाइन मोड Workspace-whitelist या Dedicated Deployment प्रमाणीकरण को भी अस्वीकार करता है, जिसके लिए API कनेक्टिविटी आवश्यक है। देखें ऑफ़लाइन मोड तैनाती संदर्भ के लिए।

पैकेज विश्वास के डिफ़ॉल्ट

में वर्णित लंबित runtime-hardening बिल्ड में माइग्रेशन गाइड, JetPack 5.1.1, 6.2.0, और 7.2.0 इमेजें सेट करती हैं ALLOW_INFERENCE_MODELS_UNTRUSTED_PACKAGES=False, जो कोर लाइब्रेरी के डिफ़ॉल्ट से मेल खाता है। किसी पैकेज को अविश्वसनीय के रूप में वर्गीकृत होने पर लोड करने के लिए, इसे स्पष्ट रूप से सेट करें WORKFLOWS_CUSTOM_PYTHON_EXECUTION_MODE केवल पैकेज और उसके स्रोत की समीक्षा करने के बाद।

यह सेटिंग इससे अलग है स्थानीय model packages, उनके code सहित, की अनुमति देता है। ऑनलाइन model authorization के साथ असंगत। देखें: अविश्वसनीय डाउनलोड किए गए पैकेजों को अस्वीकार करना प्रत्यक्ष स्थानीय पैकेज लोडिंग को अक्षम नहीं करता। इनमें से कोई भी सेटिंग कॉलर प्रमाणीकरण का स्थान नहीं लेती।

CLI बेंचमार्क

लंबित runtime-hardening बिल्ड भी बदलता है इन्फरेंस बेंचमार्क inference-models-speed को डिफ़ॉल्ट रूप से अविश्वसनीय पैकेजों को अस्वीकार करने के लिए। उपयोग करें --allow-untrusted-packages जब आप जानबूझकर पैकेज पर भरोसा करते हैं; एडेप्टर और Python बेंचमार्क सहायक समान प्रतिबंधात्मक डिफ़ॉल्ट का उपयोग करते हैं।

बेंचमार्क उपयोग के लिए, देखें बेंचमार्क इन्फरेंस.

अंतिम अपडेट

क्या यह उपयोगी था?