> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/roboflow/roboflow-ko/train/evaluate-trained-models.md).

# 학습된 모델 평가

모델 평가는 다음을 보여줍니다:

1. 모델을 실행할 최적의 confidence threshold를 찾는 데 도움이 되는 production metrics explorer;
2. 모델 정확도를 높이는 방법에 대한 제안을 제공하는 model improvement recommendations;
3. 클래스별 성능으로, 모델이 서로 다른 클래스를 얼마나 잘 식별하는지 보여줍니다;
4. confusion matrix로, 모델이 잘 수행하는 클래스와 어려움을 겪는 클래스를 찾는 데 사용할 수 있으며;
5. 모델이 잘하거나 잘 못하는 이미지 클러스터를 식별할 수 있는 대화형 vector explorer;

model evaluation을 사용하여 모델의 개선 영역을 식별할 수 있습니다.

모델 평가는 유료 사용자가 Roboflow에 학습시키거나 업로드한 모든 버전 관리 모델에 대해 자동으로 실행됩니다. 이미지가 수백 장인 dataset의 경우 evaluation이 실행되는 데 몇 분이 걸릴 수 있으며, 수천 장 이상의 이미지가 있는 대규모 dataset의 경우 몇 시간이 걸릴 수 있습니다.

### 지원되는 Project 유형

Model evaluation은 Object Detection, Instance Segmentation, Classification, Semantic Segmentation project를 지원합니다.

Semantic Segmentation의 주요 지표는 **mIoU** (mean Intersection-over-Union)이며 mAP 대신 사용됩니다. 모든 지표(precision, recall, F1)는 인스턴스별이 아니라 픽셀 수준에서 계산됩니다. 클래스별 세부 내역에는 각 클래스의 IoU, precision, recall, F1, 그리고 최적 confidence threshold가 표시됩니다. confusion matrix 값은 객체 수가 아니라 픽셀 수를 나타냅니다.

### Model Evaluation 열기

모델의 confusion matrix와 vector explorer를 찾으려면, project에서 학습된 모델을 엽니다. 그런 다음 "View Evaluation" 버튼을 클릭하세요:

<figure><img src="/files/35bc9d32f0daba213784ea475f51c0fe77a27d02" alt=""><figcaption></figcaption></figure>

confusion matrix와 vector analysis를 볼 수 있는 창이 열립니다.

### Production Metrics Explorer

production metrics explorer는 가능한 모든 confidence threshold에서 모델의 Precision, Recall, F1 score를 보여줍니다. 이 정보는 그래프로 표시됩니다.

이 통계를 바탕으로 production metrics explorer는 "optimal confidence"를 추천합니다. 이것은 Precision/Recall/F1 Score 균형이 가장 좋은 threshold입니다.

model evaluation이 완료되면, 추천된 optimal confidence threshold가 모델의 inference 요청에 대한 기본값으로 자동 적용됩니다. class별 threshold를 사용할 수 있는 경우 그것도 적용되며, 각 class에 자체 값이 없으면 전역 threshold가 대체값으로 사용됩니다.

여전히 개별 inference 요청에서 confidence threshold를 재정의할 수 있으며, 이를 위해 `confidence` parameter를 명시적으로 전달하면 됩니다.

<figure><img src="/files/695272fe3edd2f8b9c0f6286174c51a69c070af3" alt=""><figcaption></figcaption></figure>

슬라이더를 드래그하여 서로 다른 confidence threshold에서의 F1/Precision/Recall 값을 볼 수 있습니다:

<figure><img src="/files/afa8649a02b6aacff91d6f978017af18d111597c" alt=""><figcaption></figcaption></figure>

### Model Improvement Recommendations

model evaluation의 model improvement recommendations 섹션에는 모델 정확도를 높이는 방법에 대한 제안이 나열됩니다. 이러한 개선 사항은 모델로 계산한 confusion matrix 결과를 기반으로 합니다. (이 페이지의 뒤쪽에서 confusion matrix에 대한 자세한 정보를 참조하세요).

model improvement recommendations 기능은 다음과 관련된 제안을 할 수 있습니다:

* 많은 false negative를 예측하는 모델을 개선하는 방법.
* 많은 false positive를 예측하는 모델을 개선하는 방법.
* 어떤 클래스가 자주 혼동(오분류)되는지.
* 정확도 향상을 위해 더 많은 데이터가 필요한 클래스가 무엇인지.
* test 또는 validation set이 너무 작을 수 있는 경우.
* 기타.

<figure><img src="/files/2beac5d73c778255fea5eb9cd95f1e053be5d271" alt=""><figcaption></figcaption></figure>

### 클래스별 성능

클래스별 성능 차트는 dataset의 모든 클래스에 걸쳐 올바른 예측, 오분류, false negative, false positive가 각각 몇 개인지 보여줍니다.

이 정보를 사용하면 한눈에 모델이 잘 식별할 수 있는 클래스와 모델이 식별하는 데 어려움을 겪는 클래스를 확인할 수 있습니다.

<figure><img src="/files/36edc5488c931f6791b7e5f73c8002c837b122f2" alt=""><figcaption></figcaption></figure>

dataset에 클래스가 매우 많다면, "All Classes" 드롭다운을 열고 강조 표시할 클래스를 선택하여 특정 클래스에 차트를 집중할 수 있습니다:

<figure><img src="/files/d2b30d1d72ee7417321e684c37d3e92a307e49ab" alt=""><figcaption></figcaption></figure>

Confidence Threshold 슬라이더를 움직여 이 차트가 서로 다른 confidence threshold에서 어떻게 변하는지 볼 수도 있습니다:

<figure><img src="/files/49422acfa2b6126981003675666152ee23cc36ad" alt=""><figcaption></figcaption></figure>

기본적으로 이 차트는 우리가 권장하는 최적 confidence threshold를 사용합니다.

### Confusion Matrix

confusion matrix는 모델이 서로 다른 클래스에서 얼마나 잘 수행하는지 보여줍니다.

confusion matrix는 학습된 모델로 test 및 validation set의 이미지를 실행하여 계산됩니다. 그런 다음 모델의 결과를 dataset 주석의 "ground truth"와 비교합니다.

confusion matrix 도구를 사용하면 다음을 식별할 수 있습니다:

* 모델이 잘 수행하는 클래스.
* 모델이 객체에 대해 잘못된 클래스를 식별하는 클래스(false positives).
* 모델이 객체가 없는 곳에서 객체를 식별하는 사례(false negatives).

다음은 confusion matrix 예시입니다:

<figure><img src="/files/b5bc04f489825fb5a70f90c91a6958d97f058ae7" alt=""><figcaption></figcaption></figure>

모델이 많은 클래스를 감지하는 경우, 스크롤 바가 나타나 confusion matrix를 탐색할 수 있습니다.

기본적으로 confusion matrix는 모델에 대해 계산된 최적 threshold에서 실행했을 때 모델이 얼마나 잘 수행하는지 보여줍니다.

Confidence Threshold 슬라이더를 사용해 confidence threshold를 조정할 수 있습니다. 슬라이더를 설정하면 confusion matrix, precision, recall이 업데이트됩니다:

<figure><img src="/files/6c2f1de17776af6d2e0f05e88e8b52423cb46808" alt=""><figcaption></figcaption></figure>

confusion matrix의 각 상자를 클릭하면 해당 범주에 어떤 이미지가 나타나는지 볼 수 있습니다.

예를 들어, "False Positive" 열의 아무 상자나 클릭하여 ground truth 데이터에 없던 객체가 식별된 이미지를 확인할 수 있습니다.

<figure><img src="/files/650cdcae1a072425318ab0eb2aed7c0e32bfea16" alt=""><figcaption></figcaption></figure>

개별 이미지를 클릭하면 대화형 보기로 들어가 ground truth(주석)와 model predictions를 전환해 볼 수 있습니다:

<figure><img src="/files/11987bd2ef3dd7ce208fe514d14c20b67cba2d3e" alt=""><figcaption></figcaption></figure>

"Ground Truth"를 클릭하면 주석을 보고, "Model Predictions"를 클릭하면 모델이 반환한 결과를 볼 수 있습니다.
