모델 또는 워크플로우 배포
Roboflow에서 학습하거나 업로드한 모델을 배포하는 방법을 알아보세요.
Roboflow에서 학습하거나 업로드한 모든 모델과 모든 워크플로우를 Roboflow의 배포 옵션을 통해 배포할 수 있습니다.
저희 배포 옵션은 두 가지 범주로 나뉩니다:
관리형 배포이 옵션들은 Roboflow의 클라우드 인프라를 활용하여 모델을 실행하므로, 사용자가 직접 하드웨어나 소프트웨어를 관리할 필요가 없습니다.
자가 호스팅 배포이 옵션들은 사용자가 직접 하드웨어에 모델을 배포할 수 있게 하여, 환경과 자원에 대한 더 큰 제어권을 제공합니다.
다음 표는 각 배포 옵션의 주요 기능, 이점 및 제한 사항을 요약한 것입니다:
Roboflow의 인프라에서 GPU 하드웨어로 워크플로우와 모델을 직접 실행합니다.
GPU 모델 지원.
자원에 대한 제한된 제어, 높은 요구가 있거나 부하가 많은 기간에는 지연 시간이 더 길어질 수 있음
무한 확장 가능한 API를 통해 Roboflow의 인프라에서 워크플로우와 모델을 직접 실행합니다.
확장 가능하고 사용이 쉽고 인프라 관리가 필요 없습니다.
자원에 대한 제한된 제어, 높은 요구가 있는 애플리케이션에서 지연 시간이 더 길어질 수 있습니다.
워크플로우와 모델 실행을 위한 전용 GPU 및 CPU 제공.
GPU 모델, 비디오 스트리밍, 커스텀 파이썬 블록 지원.
미국 기반 데이터 센터로 제한됩니다. Serverless API처럼 자동 확장되지 않습니다.
배치 처리
선택한 워크플로우로 이미지와 비디오를 처리하는 관리형 서버 풀.
GPU 지원과 함께 데이터 볼륨에 따라 원활하게 확장 가능한, 높은 데이터 처리량과 비용 효율성을 제공하는 완전 관리형 솔루션입니다.
실시간 처리가 아니며 커스텀 파이썬 블록을 지원하지 않습니다.
자가 호스팅 배포
자신의 하드웨어에서 추론을 실행합니다.
자원과 환경에 대한 완전한 제어, 더 낮은 지연 시간 가능성.
인프라 관리와 전문 지식이 필요합니다.
적합한 배포 옵션 선택하기
가장 적합한 배포 옵션은 귀하의 구체적인 필요와 요구 사항에 따라 다릅니다. 결정을 내릴 때 다음 요소를 고려하세요:
확장성: 애플리케이션이 다양한 트래픽이나 데이터 볼륨을 처리해야 한다면, 서버리스 API는 실시간 사용 사례에 뛰어난 확장성을 제공합니다. 그렇지 않으면, 배치 처리 가 추천되는 옵션입니다.
지연 시간: 낮은 지연 시간이나 비디오 처리가 필요하다면, 전용 배포 또는 강력한 하드웨어를 갖춘 자가 호스팅 배포가 최선의 선택일 수 있습니다.
GPU: GPU가 필요한 모델(SAM2, CogVML 등)을 실행해야 한다면, GPU 머신 타입의 전용 배포 또는 GPU가 있는 하드웨어에서 자가 호스팅을 사용해야 합니다. (서버리스 GPU API는 곧 출시 예정)
제어: 자가 호스팅 배포는 환경과 자원에 대한 가장 많은 제어권을 제공합니다.
전문성: 자가 호스팅 배포는 설정 및 관리를 위해 더 많은 기술적 전문성이 필요합니다.
Last updated
Was this helpful?