Google Cloud Platform에 배포

Inference CLI와 SkyPilot을 사용하여 Google Cloud Platform 컴퓨트 VM에 Roboflow Inference 서버를 배포합니다.

Roboflow Inference는 Google Cloud Platform(GCP)에서 호스팅되는 머신에서 실행할 수 있습니다. 이는 자체 클라우드 인프라를 관리하면서 Inference의 기능을 활용하고 싶을 때 적합합니다.

Google Cloud Compute VM 설정

시작하려면 GCP에서 실행 중인 컴퓨트 인스턴스가 필요합니다. 인스턴스 프로비저닝에는 AI 프로젝트용 클라우드 인스턴스 설정을 돕도록 설계된 도구인 SkyPilot을 권장합니다.

다음 명령을 로컬 머신에서 실행하세요:

pip install inference "skypilot[gcp]"

다음을 따르세요 SkyPilot 클라우드 계정 설정 문서 GCP에 인증한 다음, 실행하세요:

inference cloud deploy --provider gcp --compute-type gpu

이렇게 하면 GCP에 GPU를 사용할 수 있는 인스턴스가 프로비저닝되고, 최신 버전의 Roboflow Inference가 자동으로 설치됩니다.

명령이 완료되면 다음과 같은 메시지가 표시되어야 합니다:

Roboflow Inference를 gcp의 gpu에 배포했습니다. 배포 이름은 ...
배포 목록을 보려면: inference cloud status
배포를 삭제하려면: inference cloud undeploy ...
배포된 서버에 ssh로 접속하려면: ssh ...
Roboflow Inference 서버가 http://34.66.116.66:9001에서 실행 중입니다

그런 다음 해당 엔드포인트를 사용해 모델을 실행할 수 있습니다: Roboflow 워크스페이스의 객체 탐지, 분할, 분류, 키포인트 모델과 CLIP, PaliGemma, SAM2 같은 파운데이션 모델.

다음 단계

클라이언트가 새 서버를 가리키도록 다음 값을 설정하세요 api_url VM의 IP 주소와 서버가 실행 중인 포트로 (9001 기본값입니다). 다음을 참조하세요 모델 실행 첫 요청은, 그리고 Inference CLI 클라우드 명령 를 사용해 배포를 관리하세요.

서버를 사설 네트워크 밖으로 노출하기 전에 다음을 검토하세요 자가 호스팅 서버 보안 설정.