SmolVLM2
Dedicated Deployment या self-hosted Inference पर HuggingFace के SmolVLM2 विज़न-लैंग्वेज मॉडल का उपयोग करें
कोड नमूना
3
मॉडल चलाएँ
import os
import supervision as sv
from inference_sdk import InferenceHTTPClient
image = sv.load_image_from_url("https://media.roboflow.com/quickstart/dog.jpeg")
client = InferenceHTTPClient(
api_url="https://your-deployment.roboflow.cloud",
api_key=os.environ["ROBOFLOW_API_KEY"],
)
result = client.infer_lmm(
image,
model_id="smolvlm2",
prompt="इस छवि का संक्षेप में वर्णन करें।",
max_new_tokens=64,
)
print(result["response"])एक आदमी अपने कंधों पर एक कुत्ते को ले जा रहा है।
इन्फरेंस गति
उपनाम
लेटेंसी, 128 टोकन (मि.से.)
टोकन/सेकंड
Inference के साथ उपयोग करें (सेल्फ-होस्टेड)
वर्कफ़्लोज़ में निष्पादन मोड
अंतिम अपडेट
क्या यह उपयोगी था?