> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/reference/hi/inference/inference-sdk/model-management.md).

# मॉडल प्रबंधन

## मॉडल वेट्स डाउनलोड

जब आप self-hosted Inference Server का उपयोग करते हैं, तो inference चलाने से पहले आप मॉडलों को pre-load करके वेट्स डाउनलोड और कैश कर सकते हैं:

```python
from inference_sdk import InferenceHTTPClient, InferenceConfiguration

client = InferenceHTTPClient(
    api_url="http://localhost:9001",
    api_key="YOUR_ROBOFLOW_API_KEY"
).configure(InferenceConfiguration(api_key_transport="header"))

# मॉडल को प्री-लोड करें (वेट्स को सर्वर कैश में डाउनलोड करता है)
client.load_model(model_id="rfdetr-base")
```

वैकल्पिक रूप से, पहला inference चलाने पर डाउनलोड स्वतः ट्रिगर हो जाएगा।

Workflows के लिए, आपको Workflow में उपयोग किए गए सभी मॉडलों को भी प्री-लोड करना चाहिए और उसकी परिभाषा को कैश करने के लिए Workflow को एक बार चलाना चाहिए।

आप सत्यापित कर सकते हैं कि सर्वर पर कौन से मॉडल लोड हैं:

```python
loaded_models = client.list_loaded_models()
print(f"लोड किए गए मॉडल: {loaded_models}")
```

इसके बारे में और पढ़ें [वेट्स कैशिंग, persistent storage, और Docker configuration](/reference/hi/inference/inference-python/offline-weights.md).

## Inference Server को नियंत्रित करने के तरीके

### सर्वर जानकारी प्राप्त करना

```python
from inference_sdk import InferenceHTTPClient

# ROBOFLOW_API_KEY को अपने Roboflow API Key से बदलें
CLIENT = InferenceHTTPClient(
    api_url="http://localhost:9001",
    api_key="ROBOFLOW_API_KEY"
)
CLIENT.get_server_info()
```

### लोड किए गए मॉडलों की सूची

```python
from inference_sdk import InferenceHTTPClient

# ROBOFLOW_API_KEY को अपने Roboflow API Key से बदलें
CLIENT = InferenceHTTPClient(
    api_url="http://localhost:9001",
    api_key="ROBOFLOW_API_KEY"
)
CLIENT.list_loaded_models()
```

समकक्ष async: `list_loaded_models_async()`

### किसी विशिष्ट मॉडल का विवरण प्राप्त करना

```python
from inference_sdk import InferenceHTTPClient

# ROBOFLOW_API_KEY को अपने Roboflow API Key से बदलें
CLIENT = InferenceHTTPClient(
    api_url="http://localhost:9001",
    api_key="ROBOFLOW_API_KEY"
)
CLIENT.get_model_description(model_id="some/1", allow_loading=True)
```

यदि `allow_loading` को `True`पर सेट किया गया है, तो यदि मॉडल पहले से लोड नहीं है, तो वह साइड इफेक्ट के रूप में लोड हो जाता है। डिफ़ॉल्ट: `True`.

समकक्ष async: `get_model_description_async()`

### मॉडल लोड करना

```python
from inference_sdk import InferenceHTTPClient

# ROBOFLOW_API_KEY को अपने Roboflow API Key से बदलें
CLIENT = InferenceHTTPClient(
    api_url="http://localhost:9001",
    api_key="ROBOFLOW_API_KEY"
)
CLIENT.load_model(model_id="some/1", set_as_default=True)
```

निर्दिष्ट मॉडल लोड किया जाता है। यदि `set_as_default` को `True`, सफल लोड के बाद मॉडल क्लाइंट के लिए डिफ़ॉल्ट मॉडल के रूप में उपयोग किया जाता है। डिफ़ॉल्ट मान: `False`.

समकक्ष async: `load_model_async()`

### मॉडल अनलोड करना

```python
from inference_sdk import InferenceHTTPClient

# ROBOFLOW_API_KEY को अपने Roboflow API Key से बदलें
CLIENT = InferenceHTTPClient(
    api_url="http://localhost:9001",
    api_key="ROBOFLOW_API_KEY"
)
CLIENT.unload_model(model_id="some/1")
```

कभी-कभी, सर्वर साइड पर OOM से बचने के लिए, मॉडल को अनलोड करना आवश्यक होता है।

समकक्ष async: `unload_model_async()`

### सभी मॉडलों को अनलोड करना

```python
from inference_sdk import InferenceHTTPClient

# ROBOFLOW_API_KEY को अपने Roboflow API Key से बदलें
CLIENT = InferenceHTTPClient(
    api_url="http://localhost:9001",
    api_key="ROBOFLOW_API_KEY"
)
CLIENT.unload_all_models()
```

समकक्ष async: `unload_all_models_async()`