# Model Monitoring

RoboflowのModel Monitoringダッシュボードでは、プロトタイピングから本番運用まで、モデルを比類なく可視化できます。Model Monitoringを使うと、ハイレベルな統計を確認してモデルの経時的なパフォーマンスを把握したり、個々の推論リクエストを確認してエッジケースでの挙動を見たりできます。

{% hint style="info" %}
Model Monitoring **は非推奨となり** Vision Eventsに置き換えられます。詳細は [Vision Eventsのドキュメント](https://docs.roboflow.com/roboflow/roboflow-jp/deploy/vision-events) をご覧ください。
{% endhint %}

## Model Monitoringへのアクセス

Model Monitoringダッシュボードを表示するには、workspaceの「Monitoring」タブをクリックしてください。

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-08439e11cc4c936bde7187adb58b72a71515f2c5%2Fimage.png?alt=media" alt="" width="312"><figcaption></figcaption></figure>

## Workspace Dashboard

すぐに、モデルに関する次の3つの統計が表示されます。

* **Total requests**：workspace内のすべてのモデルに対して行われた推論の総数
* **Average confidence:** モデルによるすべての予測における平均confidence。
* **Average inference time**：すべての推論における平均推論時間（画像前処理を含め、予測の生成にかかった秒数）

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-00a88ae4ffc0ffb5c7cc150479aec32f8dc2c12d%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

{% hint style="info" %}
% changeの値は、現在の期間と前の期間の比較に基づいています。デフォルトでは、これらの統計は過去1週間のデータを表示します。ただし、統計の上部にあるボタンを使って期間を変更できます。

<img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-b3cf0d46eaca184d244c4208cae0656f99bde61a%2Fimage.png?alt=media" alt="" data-size="original">
{% endhint %}

Modelsテーブルには、推論が行われたすべてのモデルが表示され、これらをクリックすると [Model Dashboard](#model-dashboard).

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-ecac74de3be1e2b8edb1a48dd17c3a89edf86155%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

へ移動できます。また、Recent Inferences（すべてのモデル）や [Alertsの設定](#alerting).

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-3c8a1d2992fe4573c7b9cdf93411d5ff18171c76%2Fimage.png?alt=media" alt="" width="375"><figcaption></figcaption></figure>

## Model Dashboard

Modelsタブでは、特定のモデルを選択してそのデータを表示できます。そこではWorkspace Overviewと同じ統計が表示されますが、1つのモデルに特化した内容になります。

ここでは、統計に加えて、モデル内の各classごとの検出数を表示し、他のclassに対する分布も確認できます。

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-0baf9cb0b75c74c2b341606235b7b5cd89bd9e59%2FScreenshot%202024-05-23%20at%2020.44.57.png?alt=media" alt=""><figcaption></figcaption></figure>

テーブル右上の「See All Inferences」ボタンをクリックすると、 [Inferences Table](#inferences-table).

## Inferences Table

へ移動します。ここでは、モデルのすべての予測結果を確認できます。さらに、推論に追加されたカスタムmetadataも表示されます。推論の一部だけを表示するには、テーブル右上のフィルターを使用できます。

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-c0e48d4b2d25fea504b7eb38ecfc3a0ce664c5b5%2FScreenshot%202024-05-23%20at%2020.50.13.png?alt=media" alt=""><figcaption></figcaption></figure>

### Inference Details

Inferences Tableから、特定の推論を掘り下げてより詳細を確認できます。以下の画像に示されている順に見ていきましょう。

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-ce546fe2b1798e05122b3de07944b699094213fc%2Fimage.png?alt=media" alt=""><figcaption></figcaption></figure>

1. **Image:** ここでは、推論された画像を確認できます。 *注：これはデフォルトでは有効になっていません。詳しくは* [*Enabling Inference Images*](#enabling-inference-images)
2. **Inference Details:** このパネルでは、推論リクエストに関するすべての詳細とプロパティを確認できます。利用可能なフィールドはデフォルトですべて表示されますが、いくつか非表示にしたい場合は、右上の「Cog」アイコンをクリックしてフィールドを隠せます。（この設定はブラウザーに保存されます）
3. 一部のフィールドでは、利用可能な場合、そのフィールドに基づいて推論を検索するオプションがあります。強調表示された例では、同じモデルからの推論を検索します。
4. **Detections:** この折りたたみ可能なペインには、その推論で受け取った検出の一覧が表示されます。テーブルの並び順は、「Class」と「Confidence」のテーブルヘッダーをクリックして変更できます。
5. **Download & Linkボタン:** ここでは、推論に関連付けられた画像をダウンロードしたり、このInference Detailsへのリンクをコピーして後で参照したりできます。

### Enabling Inference Images

{% hint style="info" %}
Active LearningまたはDataset Uploadによって保存された画像は、プロジェクトに画像をアップロードした場合と同じようにカウントされます。クレジット、制限、またはクォータの使用は、プランの種類に応じて適用される場合があります。
{% endhint %}

Model Monitoringに推論画像を表示させるには、次の2つの方法があります。

* **Roboflow Dataset Uploadブロック:** Workflowsでは、「Roboflow Dataset Upload」ブロックを追加できます。予測と予測画像を接続すると、Model Monitoringに表示されます。

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-2e0fe2213137512f9d235bb38ecce7c3463998ef%2Fimage.png?alt=media" alt="" width="151"><figcaption></figcaption></figure>

* **Active Learning（レガシー）:** レガシーworkspaceでは、プロジェクトページから「Active Learning」ルールを有効にできます。

<figure><img src="https://3740591140-files.gitbook.io/~/files/v0/b/gitbook-x-prod.appspot.com/o/spaces%2F-M6S9nPJhEX9FYH6clfW%2Fuploads%2Fgit-blob-2dd831a903dc127197efcec47e81026339de962c%2Fimage.png?alt=media" alt="" width="198"><figcaption></figcaption></figure>

## Alerting

あなたやチームの他のメンバーは、モデルに問題や異常が発生したときにリアルタイムアラートを受け取るよう登録できます。たとえば、モデルのconfidenceが突然低下した場合や、Inference Serverが停止してモデルが動作しなくなった場合、チームにはメール通知が送信されます。

Alertingページで詳しい情報を見る:

{% content-ref url="model-monitoring/alerting" %}
[alerting](https://docs.roboflow.com/roboflow/roboflow-jp/deploy/model-monitoring/alerting)
{% endcontent-ref %}

## Custom Metadata

推論に追加のmetadataを付与するには、Model Monitoringのカスタムmetadata機能を使用できます。カスタムmetadataを使うと、画像が撮影された場所、予測の期待値などの情報を推論に追加できます。カスタムmetadataは「Recent Inferences」と「All Inferences」のビューに表示されます。

推論結果にカスタムmetadataを付与するには、 [Custom Metadata API](https://docs.roboflow.com/api-reference/model-monitoring/custom-metadata) のドキュメントをご覧ください。

## Model Monitoring API

自動化や外部システムへの統合のために、以下を使用してModel Monitoringの統計を取得できます。 [model monitoring用のAPI](https://app.gitbook.com/s/e5GEiPeDoFksvZv1vH3A/rest-api/model-monitoring).

## Supported Deployments

Model Monitoringは、RoboflowのHosted APIまたはRoboflow Inference Serverを使用して行われた推論リクエストをサポートしています。ただし、Inference Serverにインターネットアクセスがあることが条件です。これには、Roboflowの [License Server](https://blog.roboflow.com/roboflow-license-server/).

{% hint style="info" %}
を使用するエッジデプロイメントも含まれます。現時点では、Model MonitoringはInference Pipelineを使用して行われた推論リクエストをサポートしていませんが、近い将来に対応を追加する予定です。
{% endhint %}
