Mac에 설치

네이티브 Apple Silicon 앱, Docker 또는 MPS 가속을 사용하는 Docker 외부 방식으로 macOS에 Roboflow Inference Server를 설치합니다.

macOS 네이티브 앱(Apple Silicon)

네이티브 데스크톱 앱으로 Apple Silicon Mac에서 Roboflow Inference Server를 실행할 수 있습니다. 최신 GitHub 릴리스에서 최신 DMG 디스크 이미지를 다운로드하세요: GitHub에서 최신 릴리스를 확인하고 설치 프로그램을 다운로드하세요.

1. Roboflow Inference DMG 다운로드 디스크 이미지.

2. 더블 클릭하여 디스크 이미지를 마운트하세요.

3. Roboflow Inference 앱을 응용 프로그램 폴더로 드래그하세요.

4. 응용 프로그램 폴더를 열고 Roboflow Inference 앱을 더블 클릭하여 서버를 시작하세요.

Docker 사용

CPU

먼저, Docker Desktop을 설치하세요. 그런 다음 CLI를 사용하여 컨테이너를 시작하세요:

pip install inference-cli
inference server start

컨테이너 설정을 더 세밀하게 제어하려면 수동으로 시작하세요:

sudo docker run -d \\
    --name inference-server \\
    --read-only \\
    -p 9001:9001 \\
    --volume ~/.inference/cache:/tmp:rw \\
    --security-opt="no-new-privileges" \\
    --cap-drop="ALL" \\
    --cap-add="NET_BIND_SERVICE" \\
    roboflow/roboflow-inference-server-cpu:latest

GPU(MPS)

Apple은 아직 지원하지 않습니다 Metal Performance Shaders(MPS) 장치를 Docker에 전달하는 것을, 따라서 Mac의 컨테이너 내부에서는 하드웨어 가속을 사용할 수 없습니다. MPS를 사용하려면 Docker 외부에서 서버를 실행해야 합니다.

먼저 CPU Docker 이미지로 시작하고, 더 빠른 속도가 필요하면 나중에 MPS 가속으로 Docker 외부 실행으로 전환하는 것이 가장 쉽습니다.

권장합니다 pyenv 및 pyenv-virtualenv Mac에서 Python 환경을 관리하기 위해, 특히 Homebrew는 기본값이 Python 3.13인데, 이는 Inference가 사용하는 여러 머신 러닝 종속성과 아직 호환되지 않기 때문입니다.

설치하고 설정한 후 pyenv 및 pyenv-virtualenv (쉘 설정에 대한 전체 지침을 따르세요), 다음을 생성하고 활성화하세요: 추론 Python 3.12가 포함된 가상 환경:

pyenv install 3.12
pyenv virtualenv 3.12 inference
pyenv activate inference

Docker 외부에서 서버를 설치하고 실행하려면 리포지토리를 복제하고, 종속성을 설치하고, 다음을 복사하세요: cpu_http.py 를 리포지토리 최상위에 넣고, 다음으로 서버를 시작하세요: uvicorn:

git clone https://github.com/roboflow/inference.git
cd inference
pip install .
cp docker/config/cpu_http.py .
uvicorn cpu_http:app --port 9001 --host 0.0.0.0

이제 서버가 다음에서 실행 중입니다: http://localhost:9001 MPS 가속으로.

다음 단계

• 모델 실행 를 새 서버에 대해.

• Docker 구성 옵션 포트, 캐싱 및 모델 제한용.

• 자가 호스팅 서버 보안 설정 로컬호스트를 넘어 공개하기 전에.