> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/reference/hi/inference.md).

# Inference

- [सही टूल चुनना](https://docs.roboflow.com/reference/hi/inference/choosing-the-right-tool.md): Inference server, inference package, Inference SDK, और Inference CLI का उपयोग कब करना है।
- [Inference Server OpenAPI](https://docs.roboflow.com/reference/hi/inference/inference-server-openapi.md): एक self-hosted Roboflow Inference Server के लिए HTTP API ब्राउज़ और टेस्ट करें।
- [Inference Python Package](https://docs.roboflow.com/reference/hi/inference/inference-python.md): Inference Python package: मॉडल लोड करें, अपने स्वयं के process में inference चलाएँ, Workflows निष्पादित करें, और video stream करें।
- [Inference Benchmarks](https://docs.roboflow.com/reference/hi/inference/inference-python/benchmarks.md): NVIDIA L4 और Jetson Orin NX पर RF-DETR, YOLOv8, ResNet, और ViT मॉडलों के लिए मापी गई throughput, ONNX और TensorRT की तुलना के साथ।
- [Inference Pipeline](https://docs.roboflow.com/reference/hi/inference/inference-python/inference-pipeline.md): InferencePipeline के साथ video streams पर मॉडल चलाएँ: video sources, custom inference logic, Workflows, और sinks।
- [मूल Python API](https://docs.roboflow.com/reference/hi/inference/inference-python/native-python-api.md): get\_model के साथ मॉडल लोड करें, अपने स्वयं के Python process में छवियों पर inference चलाएँ, और supervision के साथ परिणामों का दृश्यीकरण करें।
- [मॉडल वेट डाउनलोड](https://docs.roboflow.com/reference/hi/inference/inference-python/offline-weights.md): Inference package कैसे model weights डाउनलोड और cache करता है, persistent cache directory कैसे कॉन्फ़िगर करें, और weights को पहले से कैसे डाउनलोड करें।
- [Inference SDK](https://docs.roboflow.com/reference/hi/inference/inference-sdk.md): Roboflow Inference Server के लिए HTTP client, जिसमें Python से local, hosted, async, और batch inference शामिल हैं।
- [कॉन्फ़िगरेशन](https://docs.roboflow.com/reference/hi/inference/inference-sdk/configuration.md): InferenceConfiguration के साथ InferenceHTTPClient defaults, प्रति-टास्क model parameters, और Workflows execution options कॉन्फ़िगर करें।
- [Core Models](https://docs.roboflow.com/reference/hi/inference/inference-sdk/core-models.md): sync और async methods के साथ inference-sdk HTTP client के माध्यम से CLIP और DocTR foundation models कॉल करें।
- [Model Management](https://docs.roboflow.com/reference/hi/inference/inference-sdk/model-management.md): inference-sdk client के साथ Inference Server पर models को pre-load, inspect, और unload करें।
- [WebRTC Streaming](https://docs.roboflow.com/reference/hi/inference/inference-sdk/webrtc.md): WebRTC के माध्यम से Inference server पर video stream करें और webcam, RTSP cameras, video files, या manually भेजे गए frames से, model ID या Workflow का उपयोग करके live predictions प्राप्त करें।
- [Workflows](https://docs.roboflow.com/reference/hi/inference/inference-sdk/workflows.md): inference-sdk client के माध्यम से, workflow ID या inline specification द्वारा, Roboflow Workflow चलाएँ।
- [Inference CLI](https://docs.roboflow.com/reference/hi/inference/inference-cli.md): Inference Server चलाने, Workflows के साथ डेटा प्रोसेस करने, benchmarking करने, predictions बनाने, और cloud पर deploy करने के लिए कमांड-लाइन टूल।
- [Benchmark Inference](https://docs.roboflow.com/reference/hi/inference/inference-cli/benchmark.md): inference benchmark के साथ Inference Server या inference Python package की throughput और latency मापें।
- [Cloud पर Deploy करें](https://docs.roboflow.com/reference/hi/inference/inference-cli/cloud.md): inference cloud के साथ AWS और GCP पर CPU या GPU virtual machines में Roboflow Inference containers deploy करें।
- [Predictions बनाएँ](https://docs.roboflow.com/reference/hi/inference/inference-cli/infer.md): कमांड लाइन से inference infer का उपयोग करके छवियों, image URLs, directories, और video files पर predictions चलाएँ।
- [Inference Server को नियंत्रित करें](https://docs.roboflow.com/reference/hi/inference/inference-cli/server.md): inference server command के साथ स्थानीय Roboflow Inference Server शुरू करें, कॉन्फ़िगर करें, inspect करें, और बंद करें।
- [Workflows चलाएँ](https://docs.roboflow.com/reference/hi/inference/inference-cli/workflows.md): कमांड लाइन से Roboflow Workflow का उपयोग करके single images, images की directories, और video files प्रोसेस करें।