SmolVLM2
Dedicated Deployment या self-hosted Inference पर HuggingFace के SmolVLM2 vision-language model का उपयोग करें
कोड नमूना
3
मॉडल चलाएँ
import os
import cv2
import numpy as np
import requests
from inference_sdk import InferenceHTTPClient
content = requests.get("https://media.roboflow.com/quickstart/dog.jpeg").content
image = cv2.imdecode(np.frombuffer(content, np.uint8), cv2.IMREAD_COLOR)
client = InferenceHTTPClient(
api_url="https://your-deployment.roboflow.cloud",
api_key=os.environ["ROBOFLOW_API_KEY"],
)
result = client.infer_lmm(
image,
model_id="smolvlm2",
prompt="इस image का संक्षेप में वर्णन करें।",
max_new_tokens=64,
)
print(result["response"])एक आदमी अपने कंधों पर एक कुत्ता उठा रहा है।
Inference speed
उपनाम
विलंबता, 128 tokens (ms)
टोकन/सेकंड
अंतिम अपडेट
क्या यह उपयोगी था?