AWS에 배포
Inference CLI와 SkyPilot을 사용하여 AWS EC2 인스턴스에 Roboflow Inference 서버를 배포합니다.
Roboflow Inference를 Amazon Web Services에서 호스팅되는 머신에서 실행할 수 있습니다. 이는 자체 클라우드 인프라를 관리하면서 Inference의 기능을 활용하고 싶을 때 적합합니다.
AWS EC2 인스턴스 설정하기
시작하려면 AWS에서 실행 중인 EC2 인스턴스가 필요합니다. 인스턴스 프로비저닝에는 AI 프로젝트용 클라우드 인스턴스 설정을 돕기 위해 설계된 도구인 SkyPilot를 권장합니다.
다음 명령을 자신의 컴퓨터에서 실행하세요:
pip install inference "skypilot[aws]"다음을 따르세요 SkyPilot 클라우드 계정 설정 문서 AWS로 인증한 다음, 실행하세요:
inference cloud deploy --provider aws --compute-type gpu이렇게 하면 최신 버전의 Roboflow Inference가 자동으로 설치된, AWS의 GPU 사용 가능 인스턴스가 프로비저닝됩니다.
명령이 완료되면 다음과 같은 메시지가 표시됩니다:
Roboflow Inference를 aws의 gpu에 배포했습니다. 배포 이름은 ...
배포 목록을 보려면: inference cloud status
배포를 삭제하려면: inference cloud undeploy ...
배포된 서버에 SSH로 접속하려면: ssh ...
Roboflow Inference 서버가 http://34.66.116.66:9001 에서 실행 중입니다그런 다음 해당 엔드포인트를 사용해 모델을 실행할 수 있습니다: Roboflow 작업 공간의 객체 탐지, 분할, 분류, 키포인트 모델은 물론 CLIP, PaliGemma, SAM2 같은 파운데이션 모델도 사용할 수 있습니다.
다음 단계
클라이언트를 새 서버로 연결하려면 다음을 설정하세요 api_url 를 VM의 IP 주소와 서버가 실행 중인 포트(9001 기본값입니다)로 설정하세요. 다음을 참고하세요 모델 실행 첫 요청에는, 그리고 Inference CLI 클라우드 명령 를 사용해 배포를 관리하세요.
서버를 사설 네트워크 밖에 노출하기 전에 다음을 검토하세요 자가 호스팅 서버 보안.
마지막 업데이트
도움이 되었나요?