AWS에 배포

Inference CLI와 SkyPilot을 사용하여 AWS EC2 인스턴스에 Roboflow Inference 서버를 배포합니다.

Amazon Web Services에서 호스팅되는 머신에서 Roboflow Inference를 실행할 수 있습니다. 자체 클라우드 인프라를 관리하면서 Inference의 기능을 사용하고 싶을 때 적합합니다.

AWS EC2 인스턴스 설정하기

시작하려면 AWS에서 실행 중인 EC2 인스턴스가 필요합니다. 인스턴스 프로비저닝에는 AI 프로젝트용 클라우드 인스턴스를 설정하는 데 도움이 되도록 설계된 도구인 SkyPilot을 권장합니다.

다음 명령을 로컬 머신에서 실행하세요:

pip install inference "skypilot[aws]"

다음을 따르세요 SkyPilot 클라우드 계정 설정 문서 AWS로 인증한 다음, 다음을 실행하세요:

inference cloud deploy --provider aws --compute-type gpu

Roboflow Inference의 최신 버전이 자동으로 설치된 GPU 지원 인스턴스가 AWS에 프로비저닝됩니다.

명령이 완료되면 다음과 같은 메시지가 표시되어야 합니다:

Roboflow Inference를 AWS의 GPU에 배포했습니다. 배포 이름은 ...
배포 목록을 보려면: inference cloud status
배포를 삭제하려면: inference cloud undeploy ...
배포된 서버에 ssh로 접속하려면: ssh ...
Roboflow Inference 서버가 http://34.66.116.66:9001에서 실행 중입니다

그런 다음 해당 엔드포인트를 사용해 모델을 실행할 수 있습니다: Roboflow 워크스페이스의 객체 탐지, 분할, 분류, 키포인트 모델과 CLIP, PaliGemma, SAM2 같은 파운데이션 모델.

다음 단계

클라이언트가 새 서버를 가리키도록 다음 값을 설정하세요 api_url VM의 IP 주소와 서버가 실행 중인 포트로 (9001 기본값입니다). 다음을 참조하세요 모델 실행 첫 요청은, 그리고 Inference CLI 클라우드 명령 를 사용해 배포를 관리하세요.

서버를 사설 네트워크 밖으로 노출하기 전에 다음을 검토하세요 자가 호스팅 서버 보안 설정.