가격

초당 추론당 크레딧 공식에 따라 Serverless Cloud API 추론이 크레딧으로 어떻게 책정되는지 설명합니다.

다음 roboflow.com/credits 페이지에는 1 크레딧이 500초의 추론 시간에 해당한다고 나와 있습니다. 더 정확한 공식은 다음과 같습니다:

x-remote-processing-time 헤더가 설정된 경우:
   credits = (100ms + x-remote-processing-time) / 500,000ms
그 외의 경우:
   credits = max(x-processing-time, 100ms) / 500,000ms

여기서 x-processing-time 및 x-remote-processing-time 는 float 형식(초)의 HTTP 응답 헤더입니다. 참고 roboflow.com/pricing 크레딧 가격에 대해.

_{모델 추론}

아래 예시에서는 다음에 대해 추론을 실행합니다 coco/39 모델 (RF-DETR Small, 560x560). 응답 헤더에서 다음을 찾을 수 있습니다 x-processing-time , 이는 81ms입니다. 이 경우 다음이 됩니다 credits = max(81, 100) / 500,000 = 0.0002 credits , 즉 1000개 이미지당 0.2 크레딧입니다.

curl -X POST "https://serverless.roboflow.com/coco/39?api_key=$ROBOFLOW_API_KEY&image=https://media.roboflow.com/notebooks/examples/dog.jpeg" -I
HTTP/2 200 
content-type: application/json
content-length: 995
x-model-cold-start: false
x-model-id: coco/39
x-processing-time: 0.08100700378417969
x-workspace-id: my-workspace-id

콜드 스타트

같은 요청을 10분 후에 다시 실행하면, 모델이 언로드되어 GPU에 다시 로드되어야 할 수 있습니다. 이를 콜드 스타트라고 합니다. 모델 로딩은 최대 몇 초가 걸릴 수 있으며, 추론 간 지연과 매우 높은 상관관계가 있습니다.

curl -X POST "https://serverless.roboflow.com/coco/39?api_key=$ROBOFLOW_API_KEY&image=https://media.roboflow.com/notebooks/examples/dog.jpeg" -I
HTTP/2 200 
content-type: application/json
content-length: 995
x-model-cold-start: true
x-model-id: coco/39
x-model-load-details: [{"m": "coco/39", "t": 0.7791134570725262}]
x-model-load-time: 0.5791134570725262
x-processing-time: 1.1060344696044922
x-workspace-id: my-workspace-id

공식: credits = max(1106, 100)/500,000 = 0.0022 , 또는 1000개당 2.2 크레딧 (콜드 스타트) 이미지.

워크플로 실행

Workflows에서는 모델 추론과 일반적인 Workflow 처리를 분리합니다. 즉, Workflow 자체는 (더 저렴한) CPU 전용 머신에서 실행되고, 모델 추론에만 GPU 머신을 사용하므로, 더 비용 효율적인 처리가 가능합니다.

2개의 객체 감지 모델, 동적 크롭, 여러 시각화, 그리고 OCR용 Gemini를 사용하는 번호판 인식 Workflow

curl --location 'https://serverless.roboflow.com/my-workspace-id/workflows/lpr-workflow' -i \
--header 'Content-Type: application/json' \
--data '{
    "api_key": "API_KEY",
    "inputs": {
        "image": {"type": "url", "value": "https://media.roboflow.com/docs/cars-highway.png"}
    }
}'

HTTP/2 200 
content-type: application/json
content-length: 2277416
x-model-cold-start: false
x-processing-time: 6.334797143936157
x-remote-processing-time: 1.0542614459991455
x-remote-processing-times: [{"m": "vehicle-detection-bz0yu/4", "t": 1.0091230869293213}, {"m": "license-plate-w8chc/1", "t": 0.017786026000976562}, {"m": "license-plate-w8chc/1", "t": 0.01506495475769043}, {"m": "license-plate-w8chc/1", "t": 0.012287378311157227}]
x-workspace-id: my-workspace-id

공식: credits = (100ms + 1054ms)/500,000 , 따라서 0.0023 크레딧 처리에 대한 비용과 Gemini API 호출에 대한 아주 적은 비용(토큰 수에 따라 다름, 참고 roboflow.com/credits).

실패한 요청

상태 402, 408, 409, 423, 429, 또는 어떤 5xx 코드는 크레딧을 사용하지 않습니다. 여기에는 서버 오류, 타임아웃, 속도 제한이 포함됩니다.

다른 실패, 예를 들어 401, 403, 그리고 404, 여전히 크레딧이 사용됩니다.