> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/telemetry.md).

# Inference Server 원격 측정

Prometheus 메트릭과 Docker 컨테이너 통계로 자체 호스팅 Roboflow Inference 서버를 모니터링합니다.

서비스 텔레메트리는 시스템 상태, 성능 및 사용량에 대한 실시간 데이터를 제공합니다. 이를 통해 다음을 수행할 수 있습니다.

* **모니터링 및 진단:** 문제를 조기에 감지해 신속하게 해결합니다.
* **성능 최적화:** 병목 현상을 파악해 효율성을 높입니다.
* **사용량 인사이트:** 사용자 행동을 파악해 개선 방향을 설정합니다.
* **보안:** 의심스러운 활동을 감지하고 규정 준수를 보장합니다.
* **확장성:** 리소스 수요를 예측하고 관리합니다.

Inference 서버는 두 가지 텔레메트리 소스를 제공합니다.

* [Prometheus](https://prometheus.io/) 메트릭
* Docker 데몬이 제공하는 Docker 컨테이너 메트릭

## Prometheus 메트릭

메트릭을 활성화하려면 컨테이너에서 환경 변수 `ENABLE_PROMETHEUS=True` 를 설정합니다:

```bash
docker run -p 127.0.0.1:9001:9001 -e ENABLE_PROMETHEUS=True roboflow/roboflow-inference-server-cpu
```

그런 다음 `GET /metrics` 엔드포인트를 사용해 Python에서 메트릭을 가져옵니다.

```python
import requests

result = requests.get("http://127.0.0.1:9001/metrics")
result.raise_for_status()

print(result.text)
```

또는 curl을 사용합니다.

```bash
curl http://127.0.0.1:9001/metrics
```

{% hint style="info" %}
`/metrics` 인증되지 않은 상태로 유지되는 엔드포인트 중 하나입니다. 이는 [API 키 인증](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/security.md#enforce-authentication) 을 사용하도록 설정해도 마찬가지이므로, 메트릭이 민감한 정보라면 서버에 대한 네트워크 접근을 제한하세요.
{% endhint %}

## Docker 컨테이너 메트릭

{% hint style="warning" %}
**잠재적인 보안 문제입니다.** 이 기능은 컨테이너 내부에 Docker 데몬 소켓을 노출하는 방식으로 작동합니다. 별도의 감독 서비스 없이도 컨테이너 리소스 사용률 메트릭을 노출할 수 있지만, 보안 위반으로 간주될 수 있습니다. 이 기능은 기본적으로 비활성화되어 있습니다. 사용 설정하기 전에 [잠재적인 보안 위험](https://www.lvh.io/posts/dont-expose-the-docker-socket-not-even-to-a-container/) 을 확인하세요.
{% endhint %}

컨테이너 메트릭을 노출하려면 Docker 소켓을 마운트하여 Inference 서버 컨테이너를 실행하세요:

```bash
docker run -p 127.0.0.1:9001:9001 \\
  -v /var/run/docker.sock:/var/run/docker.sock \
  -e DOCKER_SOCKET_PATH=/var/run/docker.sock \
  roboflow/roboflow-inference-server-cpu
```

* 이 `-v` 줄은 **마운트합니다** 호스트의 Docker 데몬 소켓(일반적으로 `/var/run/docker.sock`이지만 설정을 확인하세요)을 컨테이너에 연결합니다. 여기에서도 경로는 `/var/run/docker.sock`.
* 이  `-e`  줄은  `DOCKER_SOCKET_PATH` 를 Docker 데몬 소켓의 위치로 설정합니다. 이 위치는  **컨테이너 내부에 있으며**, 위의 마운트와 일치합니다.

그런 다음  `GET /device/stats`  엔드포인트에 curl로 접근할 수 있습니다:

```bash
curl http://127.0.0.1:9001/device/stats
```

또는 Python으로 접근할 수 있습니다:

```python
import requests

result = requests.get("http://127.0.0.1:9001/device/stats")
result.raise_for_status()

print(result.json())
```

## 모델 수준 모니터링

호스트 텔레메트리가 아닌, 배포 전반에 걸친 예측 수준 모니터링에 대해서는  [모델 모니터링](https://docs.roboflow.com/deployment/ko/monitoring-and-analytics/model-monitoring.md)을 참조하세요. 자체 호스팅 서버에서는  `METRICS_ENABLED`  및  `MODEL_MONITORING_CACHE_BACKEND` [ 환경 변수로 이를 제어합니다](https://docs.roboflow.com/deployment/ko/self-hosted/inference-server/configuration/environment-variables.md#monitoring-and-telemetry).
