मूल्य निर्धारण

credits-per-inference-second formula का उपयोग करके Serverless Cloud API inference की कीमत credits में कैसे तय होती है।

यह roboflow.com/credits पृष्ठ में बताया गया है कि 1 क्रेडिट 500 सेकंड के इन्फ़रेंस समय के बराबर है। अधिक सटीक सूत्र यह है:

यदि x-remote-processing-time हेडर सेट है:
   क्रेडिट्स = (100ms + x-remote-processing-time) / 500,000ms
अन्यथा:
   क्रेडिट्स = max(x-processing-time, 100ms) / 500,000ms

जहाँ x-processing-time और x-remote-processing-time HTTP Response हेडर हैं, float प्रारूप में (सेकंड)। देखें roboflow.com/pricing क्रेडिट मूल्य निर्धारण के लिए।

_{मॉडल इन्फ़रेंस}

नीचे दिए गए उदाहरण में, हम इस पर इन्फ़रेंस चलाते हैं coco/39 मॉडल (RF-DETR Small, 560x560)। प्रतिक्रिया हेडरों में हमें मिलता है x-processing-time जो 81ms है। इस मामले में, हमारे पास होगा क्रेडिट्स = max(81, 100) / 500,000 = 0.0002 क्रेडिट्स या 1000 छवियों पर 0.2 क्रेडिट्स।

curl -X POST -H "Authorization: Bearer $ROBOFLOW_API_KEY" "https://serverless.roboflow.com/coco/39?image=https://media.roboflow.com/notebooks/examples/dog.jpeg" -I
HTTP/2 200 
content-type: application/json
content-length: 995
x-model-cold-start: false
x-model-id: coco/39
x-processing-time: 0.08100700378417969
x-workspace-id: my-workspace-id

कोल्ड स्टार्ट

यदि आप 10 मिनट बाद वही अनुरोध चलाते हैं, तो ऐसा हो सकता है कि मॉडल अनलोड हो गया हो और उसे फिर से GPU पर लोड करने की आवश्यकता हो - एक कोल्ड स्टार्ट। मॉडल लोड होने में कुछ सेकंड तक लग सकते हैं, और यह इन्फ़रेंस के बीच की देरी के साथ अत्यधिक संबंधित है।

curl -X POST -H "Authorization: Bearer $ROBOFLOW_API_KEY" "https://serverless.roboflow.com/coco/39?image=https://media.roboflow.com/notebooks/examples/dog.jpeg" -I
HTTP/2 200 
content-type: application/json
content-length: 995
x-model-cold-start: true
x-model-id: coco/39
x-model-load-details: [{"m": "coco/39", "t": 0.7791134570725262}]
x-model-load-time: 0.5791134570725262
x-processing-time: 1.1060344696044922
x-workspace-id: my-workspace-id

सूत्र: क्रेडिट्स = max(1106, 100)/500,000 = 0.0022 या 2.2 क्रेडिट्स प्रति 1000 (कोल्ड स्टार्ट) छवियाँ।

वर्कफ़्लो रन

वर्कफ़्लोज़ के लिए, हम मॉडल इन्फ़रेंस को सामान्य वर्कफ़्लो प्रोसेसिंग से अलग करते हैं। इसका मतलब है कि वर्कफ़्लो स्वयं (सस्ते) केवल-CPU मशीनों पर निष्पादित होगा, और मॉडल इन्फ़रेंस के लिए केवल GPU मशीनों का उपयोग करेगा, जिससे प्रोसेसिंग अधिक किफायती हो जाती है।

2x ऑब्जेक्ट डिटेक्शन मॉडल, डायनामिक क्रॉपिंग, कई विज़ुअलाइज़ेशन, और OCR के लिए Gemini के साथ लाइसेंस प्लेट पहचान वर्कफ़्लो

curl --location 'https://serverless.roboflow.com/my-workspace-id/workflows/lpr-workflow' -i \
--header 'Authorization: Bearer API_KEY' \
--header 'Content-Type: application/json' \
--data '{
    "inputs": {
        "image": {"type": "url", "value": "https://media.roboflow.com/docs/cars-highway.png"}
    }
}'

HTTP/2 200 
content-type: application/json
content-length: 2277416
x-model-cold-start: false
x-processing-time: 6.334797143936157
x-remote-processing-time: 1.0542614459991455
x-remote-processing-times: [{"m": "vehicle-detection-bz0yu/4", "t": 1.0091230869293213}, {"m": "license-plate-w8chc/1", "t": 0.017786026000976562}, {"m": "license-plate-w8chc/1", "t": 0.01506495475769043}, {"m": "license-plate-w8chc/1", "t": 0.012287378311157227}]
x-workspace-id: my-workspace-id

सूत्र: क्रेडिट्स = (100ms + 1054ms)/500,000 तो 0.0023 क्रेडिट्स प्रोसेसिंग के लिए, और Gemini API कॉल के लिए थोड़ी-सी अतिरिक्त मात्रा (टोकन संख्या पर निर्भर, देखें roboflow.com/credits).

असफल अनुरोध

वे अनुरोध जो स्थिति के साथ विफल होते हैं 402, 408, 409, 423, 429या कोई 5xx कोड क्रेडिट्स का उपयोग नहीं करते। इनमें सर्वर त्रुटियाँ, टाइमआउट, और दर सीमाएँ शामिल हैं।

अन्य विफलताएँ, जैसे 401, 403और 404फिर भी क्रेडिट्स का उपयोग करती हैं।