Azure에 배포

Inference CLI와 SkyPilot을 사용하여 Azure 가상 머신에 Roboflow Inference 서버를 배포합니다.

Azure에서 호스팅되는 머신에서 Roboflow Inference를 실행할 수 있습니다. 이는 자체 클라우드 인프라를 관리하면서 Inference의 기능을 사용하고 싶을 때 적합합니다.

Azure 컴퓨트 VM 설정하기

시작하려면 Azure에서 실행 중인 컴퓨트 인스턴스가 필요합니다. 인스턴스 프로비저닝에는 AI 프로젝트용 클라우드 인스턴스 설정을 도와주도록 설계된 도구인 SkyPilot을 권장합니다.

다음 명령을 로컬 머신에서 실행하세요:

pip install inference "skypilot[azure]"

다음을 따르세요 SkyPilot 클라우드 계정 설정 문서 Azure로 인증한 다음, 다음을 실행하세요:

inference cloud deploy --provider azure --compute-type gpu

이 명령은 최신 버전의 Roboflow Inference가 자동으로 설치된 Azure의 GPU 사용 가능 인스턴스를 프로비저닝합니다.

명령이 완료되면 다음과 같은 메시지가 표시되어야 합니다:

Azure의 GPU에 Roboflow Inference를 배포했습니다. 배포 이름은 ...
배포 목록을 보려면: inference cloud status
배포를 삭제하려면: inference cloud undeploy ...
배포된 서버에 ssh로 접속하려면: ssh ...
Roboflow Inference 서버가 http://34.66.116.66:9001에서 실행 중입니다

그런 다음 해당 엔드포인트를 사용해 모델을 실행할 수 있습니다: Roboflow 워크스페이스의 객체 탐지, 분할, 분류, 키포인트 모델과 CLIP, PaliGemma, SAM2 같은 파운데이션 모델.

다음 단계

클라이언트가 새 서버를 가리키도록 다음 값을 설정하세요 api_url VM의 IP 주소와 서버가 실행 중인 포트로 (9001 기본값입니다). 다음을 참조하세요 모델 실행 첫 요청은, 그리고 Inference CLI 클라우드 명령 를 사용해 배포를 관리하세요.

서버를 사설 네트워크 밖으로 노출하기 전에 다음을 검토하세요 자가 호스팅 서버 보안 설정.