> For the complete documentation index, see [llms.txt](https://docs.roboflow.com/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.roboflow.com/models/ko/supported-models/perception-encoder.md).

# Perception Encoder

Perception Encoder는 Meta의 비전-언어 임베딩 모델입니다. 이미지를 텍스트와 함께 공통 임베딩 공간으로 매핑하여 유사도 검색, 제로샷 분류, 검색(retrieval)에 사용됩니다.

{% hint style="info" %}
Perception Encoder는 Serverless Cloud API에서 사용할 수 없습니다. 다음에서 실행하세요 [전용 배포](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) 또는 [자체 호스팅 추론](https://docs.roboflow.com/deployment/self-hosted/self-hosted).
{% endhint %}

Perception Encoder 엔드포인트는 세 가지를 지원합니다:

* `/perception_encoder/embed_image` - 이미지를 임베딩합니다
* `/perception_encoder/embed_text` - 문자열을 임베딩합니다
* `/perception_encoder/compare` - 이미지와 텍스트 프롬프트 목록 간의 유사도를 계산합니다

## Perception Encoder API

{% stepper %}
{% step %}

### API 키 받기

Roboflow 계정을 만들고, [Roboflow API 설정 페이지](https://app.roboflow.com/settings/api) 에서 키를 찾아 셸에서 사용할 수 있게 하세요:

```bash
export ROBOFLOW_API_KEY="your-key-here"
```

{% endstep %}

{% step %}

### 의존성을 설치하세요

다음 패키지는 이미지를 가져와 API를 호출합니다:

```bash
pip install -U requests opencv-python supervision
```

{% endstep %}

{% step %}

### 모델 실행

아래 예시는 이미지를 다음으로 보냅니다 `/perception_encoder/embed_image` 그리고 임베딩 형태를 출력합니다. 다음을 설정하세요 `URL` 전용 배포 URL 또는 로컬 추론 서버에.

```python
import base64
import os
import cv2
import requests
import supervision as sv

URL = "https://your-deployment.roboflow.cloud"

image = sv.load_image_from_url("https://media.roboflow.com/notebooks/examples/dog.jpeg")

_, buffer = cv2.imencode(".jpg", image)
image_base64 = base64.b64encode(buffer).decode("utf-8")

response = requests.post(
    f"{URL}/perception_encoder/embed_image",
    headers={"Authorization": f"Bearer {os.environ['ROBOFLOW_API_KEY']}"},
    json={
        "image": {"type": "base64", "value": image_base64},
    },
)
result = response.json()
embedding = result["embeddings"][0]
print(f"Embedding length: {len(embedding)}")
print(f"First values: {embedding[:5]}")
```

{% endstep %}
{% endstepper %}

위 코드는 터미널에 임베딩 형태를 출력합니다:

```
Embedding length: 1024
First values: [0.0545, -0.0338, -0.0355, -0.0062, 0.0154]
```

## Perception Encoder 추론 속도

다음을 사용하여 측정한 지연 시간 [Roboflow Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) 에서 NVIDIA L4 1개, 배치 크기 1, 워밍업 후 평균.

<table data-search="false"><thead><tr><th>모델</th><th>지연 시간(ms)</th></tr></thead><tbody><tr><td><code>perception-encoder</code></td><td>25.2</td></tr></tbody></table>

다음으로 측정됨 `embed_image` 에서 `PE-Core-L14-336` (이미지 임베딩만).

{% hint style="info" %}
설정하세요 `URL` 를 배포 대상에 맞게:

* `http://localhost:9001` 로컬 [Inference](https://docs.roboflow.com/deployment/self-hosted/self-hosted) 서버용입니다.
* 귀하의 [전용 배포](https://docs.roboflow.com/deployment/roboflow-cloud/dedicated-deployments) 는 비공개 엔드포인트의 URL입니다.
  {% endhint %}

## 셀프 호스팅 Inference로 Perception Encoder 실행

Perception Encoder는 다음을 사용해 직접 로드할 수 있습니다: [`inference`](https://docs.roboflow.com/deployment/self-hosted/self-hosted) 이 패키지는 로컬에서 많은 이미지나 비디오 프레임을 임베딩할 때 가장 빠른 경로입니다.

{% stepper %}
{% step %}

### 패키지를 설치하세요

```bash
pip install "inference[transformers]"
```

사용 `inference-gpu[transformers]` GPU 머신에서.
{% endstep %}

{% step %}

### 로컬에서 임베드하고 비교하기

```python
from inference.core.utils.postprocess import cosine_similarity
from inference.models import PerceptionEncoder

pe = PerceptionEncoder(model_id="perception_encoder/PE-Core-B16-224")

image_embedding = pe.embed_image("https://media.roboflow.com/inference/people-walking.jpg")
text_embedding = pe.embed_text("a crowd of people walking")

print(cosine_similarity(image_embedding[0], text_embedding[0]))
```

{% endstep %}
{% endstepper %}

### 사용 가능한 체크포인트

`model_id` 백본을 선택합니다:

* `perception_encoder/PE-Core-B16-224`
* `perception_encoder/PE-Core-L14-336`
* `perception_encoder/PE-Core-G14-448`

CLIP 스타일 인터페이스만 지원됩니다. 언어 정렬 및 공간 정렬 Perception Encoder 변형은 아직 사용할 수 없습니다.

{% hint style="info" %}
Perception Encoder는 다음과 동일한 API 형식을 사용합니다: [CLIP](/models/ko/supported-models/clip.md): `embed_image`, `embed_text`, 및 `compare` 동일한 인수를 받고 동일한 응답 형식을 반환하므로, CLIP용으로 작성된 코드는 모델만 바꾸면 Perception Encoder에서도 작동합니다.
{% endhint %}

### 워크플로에서 사용

Perception Encoder는 [Workflows](https://docs.roboflow.com/workflows) 다음을 통해 **Perception Encoder 임베딩 모델** 블록에서 코드를 작성하지 않고 이미지 또는 텍스트 임베딩을 생성합니다.