관리형 배포
Roboflow는 우리의 클라우드 인프라를 활용하여 모델을 실행할 수 있는 여러 관리형 배포 옵션을 제공합니다. 이러한 옵션은 사용이 간편하며 뛰어난 확장성을 제공하여 다양한 애플리케이션에 이상적입니다.
Serverless API
해당 Serverless Hosted API 무한 확장 가능한 API를 통해 Roboflow의 인프라에서 워크플로우와 모델을 직접 실행할 수 있습니다. 이는 모델을 배포하고 추론을 시작하는 가장 쉬운 방법입니다.
장점:
확장성 : API가 자동으로 확장되어 추론 요구를 처리하므로 서버를 프로비저닝하거나 관리할 필요가 없습니다.
사용 편의성 : 간단한 REST API를 통해 모델에 접근할 수 있어 애플리케이션에 추론을 쉽게 통합할 수 있습니다.
인프라 관리 불필요 : Roboflow가 모든 인프라를 관리하므로 애플리케이션 개발에 집중할 수 있습니다.
워크플로우 지원 : 모든 워크플로우가 Serveless API의 API 엔드포인트로 제공되어 간단한 HTTP 요청으로 워크플로우를 쉽게 실행할 수 있습니다.
제한 사항:
워밍업 요청 : 서버에 로드되지 않은 모델을 불러와야 하는 요청을 할 경우, 초기 요청은 몇 초간 지연될 수 있습니다. 이후의 요청에서는 모델이 현재 실행 중인 서버에 캐시되므로 요청 지연이 크게 개선됩니다.
CPU 기반 : Serverless Hosted API 는 모델 추론에 CPU를 사용하므로 Dedicated Deployments나 self-hosted deployments에 비해 지연이 더 높을 수 있으며 GPU가 필요한 모델은 사용할 수 없습니다 (Serverless GPU API 곧 출시 예정).
Workflows
해당 Serverless Hosted API 를 실행할 수 있습니다. Workflows Roboflow 클라우드에서. 이를 통해 자체 인프라를 관리하지 않고도 복잡한 컴퓨터 비전 애플리케이션을 구축하고 실행할 수 있습니다.
에서도 워크플로우를 실행할 수 있습니다. Dedicated Deployments 또는 self hosted inference servers에서, 이를 통해 더 강력한 GPU 기반 모델을 사용할 수 있고 Custom Python Blocks.
워크플로우를 생성, 테스트, 배포하는 방법에 대해 더 알아보려면 여기.
모델 추론
외에도 워크플로우 특정 모델에 대해 추론을 실행할 수도 있습니다. Serverless Hosted API . Robofolow에서 학습한 모든 모델, 지원되는 foundation models , 또는 학습된 모델이 있는 프로젝트를 찾을 수 있습니다. https://universe.roboflow.com
사용 방법 개요 Serverless Hosted API:
Roboflow 대시보드에서 API 키를 획득합니다.
이미지와 모델 정보를 포함하여 API 엔드포인트로 POST 요청을 보냅니다.
JSON 형식으로 추론 결과를 받습니다.
자세한 내용은 Serverless Hosted API 자세한 내용과 API 사양은 docs 참조
배치 처리
Roboflow Batch Processing 는 Workflows 에 의해 구동되는 완전 관리형 솔루션으로, 코드를 작성하지 않고도 대량의 비디오와 이미지를 처리할 수 있습니다. 빠른 작업을 위한 사용이 쉬운 UI와 데이터 처리 자동화를 위한 포괄적인 API를 제공하여 소규모 및 대규모 작업 모두에 적합합니다.
구성 가능한 처리 워크플로우, 실시간 모니터링, 이벤트 기반 알림을 통해 Roboflow Batch Processing은 데이터 처리 관리, 진행 상황 추적, 다른 시스템과의 통합을 효율적으로 지원하여 목표 달성을 쉽게 만듭니다.
장점:
확장성 : 서비스가 데이터 볼륨에 따라 자동으로 확장되어 수백만 장의 이미지와 수천 개의 비디오 파일을 효율적으로 처리할 수 있습니다.
사용 편의성 : 간단한 UI 클릭부터 CLI 명령 실행, 프로덕션 수준의 자동화 까지 다양한 방식으로 서비스를 사용할 수 있으며, 시스템과 원활하게 통합됩니다.
인프라 관리 불필요 : Roboflow가 모든 인프라와 데이터 관리를 처리하므로 비즈니스 요구 해결에 집중할 수 있습니다.
제한 사항:
비동기 처리 특성: Batch Processing 서비스는 컴퓨팅 리소스가 사용 가능할 때 백그라운드에서 처리 작업을 시작합니다. 일반적으로 필요한 서버를 프로비저닝하는 데 몇 분밖에 걸리지 않지만, 작업의 정확한 시작 시간은 보장되지 않습니다. 따라서 이 서비스는 실시간 처리를 위한 용도로는 적합하지 않습니다.
Custom Python Blocks 미지원 : 서비스가 Roboflow 인프라에서 실행되기 때문에 현재 Custom Python Blocks를 통한 임의 코드 실행은 지원하지 않습니다.
Dedicated Deployments
Dedicated Deployments 모델 실행을 위한 전용 GPU 및 CPU를 제공합니다. 이 옵션은 일관된 성능, 리소스 격리, 향상된 보안을 제공하여 리소스 격리 또는 커스텀 코드 실행이 필요한 고성능 애플리케이션 및 프로덕션 워크로드에 적합합니다.
장점:
일관된 성능 : 전용 리소스가 모델의 일관된 성능을 보장합니다.
리소스 격리 : 모델이 격리된 리소스에서 실행되어 다른 사용자로부터의 간섭을 방지합니다.
GPU 지원 : Dedicated Deployments(예: SAM2, CogVML)에서 GPU 지원이 필요한 대형 모델을 실행할 수 있습니다.
Custom Python Blocks : Dedicated Deployments에 워크플로우를 배포할 때 Custom Python Blocks를 사용할 수 있습니다.
제한 사항:
미국 기반 데이터 센터로 제한: 현재 Dedicated Deployments는 미국 내 데이터 센터에서만 제공되므로, 다른 지역 사용자는 더 높은 지연이 발생할 수 있습니다.
Last updated
Was this helpful?