모델 또는 워크플로우 배포

Roboflow에서 학습하거나 업로드한 모델을 배포하는 방법을 알아보세요.

Roboflow에서 학습하거나 업로드한 모든 모델과 모든 워크플로우를 Roboflow의 배포 옵션을 통해 배포할 수 있습니다.

저희 배포 옵션은 두 가지 범주로 나뉩니다:

• 관리형 배포이 옵션들은 Roboflow의 클라우드 인프라를 활용하여 모델을 실행하므로, 사용자가 직접 하드웨어나 소프트웨어를 관리할 필요가 없습니다.

• 자가 호스팅 배포이 옵션들은 사용자가 직접 하드웨어에 모델을 배포할 수 있게 하여, 환경과 자원에 대한 더 큰 제어권을 제공합니다.

다음 표는 각 배포 옵션의 주요 기능, 이점 및 제한 사항을 요약한 것입니다:

배포 옵션	설명	장점	제한 사항
서버리스 호스팅 API V2	Roboflow의 인프라에서 GPU 하드웨어로 워크플로우와 모델을 직접 실행합니다.	GPU 모델 지원.	자원에 대한 제한된 제어, 높은 요구가 있거나 부하가 많은 기간에는 지연 시간이 더 길어질 수 있음
서버리스 API	무한 확장 가능한 API를 통해 Roboflow의 인프라에서 워크플로우와 모델을 직접 실행합니다.	확장 가능하고 사용이 쉽고 인프라 관리가 필요 없습니다.	자원에 대한 제한된 제어, 높은 요구가 있는 애플리케이션에서 지연 시간이 더 길어질 수 있습니다.
전용 배포	워크플로우와 모델 실행을 위한 전용 GPU 및 CPU 제공.	GPU 모델, 비디오 스트리밍, 커스텀 파이썬 블록 지원.	미국 기반 데이터 센터로 제한됩니다. Serverless API처럼 자동 확장되지 않습니다.
배치 처리	선택한 워크플로우로 이미지와 비디오를 처리하는 관리형 서버 풀.	GPU 지원과 함께 데이터 볼륨에 따라 원활하게 확장 가능한, 높은 데이터 처리량과 비용 효율성을 제공하는 완전 관리형 솔루션입니다.	실시간 처리가 아니며 커스텀 파이썬 블록을 지원하지 않습니다.
자가 호스팅 배포	자신의 하드웨어에서 추론을 실행합니다.	자원과 환경에 대한 완전한 제어, 더 낮은 지연 시간 가능성.	인프라 관리와 전문 지식이 필요합니다.

추론이란 무엇인가요?

컴퓨터 비전에서 추론이란 학습된 모델을 사용하여 새로운 이미지나 비디오를 분석하고 예측을 수행하는 과정을 의미합니다. 예를 들어, 객체 감지 모델은 비디오 스트림에서 객체를 식별하고 위치를 찾는 데 사용될 수 있고, 분류 모델은 이미지의 내용을 기반으로 이미지를 분류하는 데 사용될 수 있습니다.

Roboflow Inference 는 컴퓨터 비전 모델과 워크플로우 배포를 위한 강력하고 유연한 프레임워크를 제공하는 오픈 소스 프로젝트입니다. 이는 Roboflow의 대부분의 관리형 배포 서비스를 구동하는 엔진입니다. 또한 직접 호스팅하거나 비전 워크플로우를 엣지 디바이스에 배포하는 데 사용할 수 있습니다. Roboflow Inference는 다음과 같은 다양한 기능과 역량을 제공합니다:

• 객체 감지, 분류, 인스턴스 분할 등 다양한 모델 아키텍처와 작업 지원.

• 워크플로우를 통해 다양한 모델, 사전 구축된 로직, 외부 애플리케이션을 수백 개의 빌딩 블록 중에서 선택하여 결합함으로써 컴퓨터 비전 애플리케이션을 구축할 수 있습니다.

• CPU, GPU, NVIDIA Jetson과 같은 엣지 디바이스 등 다양한 장치에서 최적화된 성능을 위한 하드웨어 가속 지원.

• 자원 효율적 사용을 위한 멀티프로세싱 지원.

• 비디오 스트림의 원활한 처리를 위한 비디오 디코딩.

• 배포를 간소화하는 HTTP 인터페이스, API 및 도커 이미지 제공

• Roboflow의 호스팅 배포 옵션 및 Roboflow 플랫폼과의 통합.

워크플로우란 무엇인가요?

워크플로우 다양한 모델, 사전 구축된 로직, 외부 애플리케이션을 결합하여 복잡한 컴퓨터 비전 애플리케이션을 구축할 수 있습니다. 시각적이고 저코드 환경을 제공하여 정교한 컴퓨터 비전 파이프라인을 설계하고 배포할 수 있습니다.

워크플로우를 사용하면 다음과 같은 작업이 가능합니다:

• 여러 모델을 연결하여 복잡한 작업을 수행합니다.

• 애플리케이션에 커스텀 로직과 의사결정 기능을 추가합니다.

• 외부 시스템 및 API와 통합합니다.

• 이미지와 비디오에서 객체를 추적, 카운트, 타이머 측정, 시각화합니다.

적합한 배포 옵션 선택하기

사용 사례에 가장 적합한 배포 방법을 선택하는 방법에 대한 훌륭한 가이드가 추론 시작 가이드에 있습니다: https://inference.roboflow.com/start/getting-started/

가장 적합한 배포 옵션은 귀하의 구체적인 필요와 요구 사항에 따라 다릅니다. 결정을 내릴 때 다음 요소를 고려하세요:

• 확장성: 애플리케이션이 다양한 트래픽이나 데이터 볼륨을 처리해야 한다면, 서버리스 API는 실시간 사용 사례에 뛰어난 확장성을 제공합니다. 그렇지 않으면, 배치 처리 가 추천되는 옵션입니다.

• 지연 시간: 낮은 지연 시간이나 비디오 처리가 필요하다면, 전용 배포 또는 강력한 하드웨어를 갖춘 자가 호스팅 배포가 최선의 선택일 수 있습니다.

• GPU: GPU가 필요한 모델(SAM2, CogVML 등)을 실행해야 한다면, GPU 머신 타입의 전용 배포 또는 GPU가 있는 하드웨어에서 자가 호스팅을 사용해야 합니다. (서버리스 GPU API는 곧 출시 예정)

• 제어: 자가 호스팅 배포는 환경과 자원에 대한 가장 많은 제어권을 제공합니다.

• 전문성: 자가 호스팅 배포는 설정 및 관리를 위해 더 많은 기술적 전문성이 필요합니다.