Managed Deployments
Roboflow는 모델을 실행하기 위해 당사의 클라우드 인프라를 활용하는 여러 관리형 배포 옵션을 제공합니다. 이러한 옵션은 사용하기 쉬우며 우수한 확장성을 제공하므로 다양한 애플리케이션에 적합합니다.
서버리스 API
The 서버리스 호스티드 API 무한 확장 가능한 API를 통해 Roboflow의 인프라에서 워크플로우와 모델을 직접 실행할 수 있게 해줍니다. 모델을 배포하고 추론을 시작하는 가장 쉬운 방법입니다.
장점:
확장성: API가 자동으로 추론 수요에 맞춰 확장되므로 서버 프로비저닝이나 관리에 대해 걱정할 필요가 없습니다.
사용 용이성: 간단한 REST API를 통해 모델에 접근할 수 있어 애플리케이션에 추론을 통합하기 쉽습니다.
인프라 관리 불필요: Roboflow가 모든 인프라를 관리하므로 애플리케이션 개발에 집중할 수 있습니다.
워크플로우 지원: 모든 워크플로우가 Serverless API의 API 엔드포인트로 제공되므로 간단한 HTTP 요청으로 워크플로우를 쉽게 실행할 수 있습니다
제한 사항:
워밍업 요청: 아직 어떤 서버에도 로드되지 않은 모델을 로드해야 하는 요청을 할 때 초기 요청은 수초의 지연 시간이 증가할 수 있습니다. 이후의 요청에서는 현재 실행 중인 서버에 모델이 캐시되면서 요청 지연 시간이 크게 개선됩니다.
CPU 기반: 해당 서버리스 호스티드 API 는 모델 추론에 CPU를 사용합니다; 전용 배포나 자체 호스팅 배포에 비해 지연 시간이 더 길 수 있고 GPU가 필요한 모델은 사용할 수 없습니다 (서버리스 GPU API 곧 출시 예정).
Workflows
The 서버리스 호스티드 API 를 통해 Workflows 를 Roboflow 클라우드에서 실행할 수 있습니다. 이를 통해 자체 인프라를 관리하지 않고도 복잡한 컴퓨터 비전 애플리케이션을 구축하고 실행할 수 있습니다.
워크플로우는 또한 Dedicated Deployments 또는 자체 호스팅 추론 서버에서 실행할 수 있으며, 이를 통해 더 강력한 GPU 기반 모델을 사용하고 Custom Python Blocks.
워크플로우를 생성, 테스트 및 배포하는 방법에 대해 자세히 알아볼 수 있습니다 확인하세요.
모델 추론
에 더해 워크플로우 특정 모델에 대해 서버리스 호스티드 API를 사용하여 추론할 수도 있습니다. Roboflow에서 학습한 모든 모델, 지원되는 기초 모델중 어느 것이든 추론할 수 있으며, 또는 https://universe.roboflow.com
사용 방법 개요 서버리스 호스티드 API:
Roboflow 대시보드에서 API 키를 획득합니다.
이미지와 모델 정보를 포함하여 API 엔드포인트로 POST 요청을 보냅니다.
추론 결과를 JSON 형식으로 수신합니다.
참조를 서버리스 호스티드 API 자세한 내용과 API 사양은 docs를 참조하세요
Batch Processing
Roboflow 배치 처리 는 코드 작성 없이 대량의 비디오와 이미지를 처리할 수 있게 해주는 Workflows 기반의 완전관리형 솔루션입니다. 빠른 작업을 위한 사용하기 쉬운 UI와 데이터 처리를 자동화하기 위한 포괄적인 API를 제공하여 소규모와 대규모 작업 모두에 적합합니다.
구성 가능한 처리 워크플로우, 실시간 모니터링 및 이벤트 기반 알림을 통해 Roboflow Batch Processing은 데이터 처리를 효율적으로 관리하고 진행 상황을 추적하며 다른 시스템과 통합하는 데 도움을 줍니다. 이를 통해 목표를 쉽게 달성할 수 있습니다.
장점:
확장성: 서비스는 데이터 볼륨에 맞춰 자동으로 확장되며, 수백만 개의 이미지와 수천 개의 동영상 파일을 효율적으로 처리할 수 있습니다.
사용 용이성: 간단한 UI 클릭부터 CLI 명령 실행, 나아가 시스템과 원활하게 통합되는 프로덕션급 자동화 를 구축하는 것까지 다양한 방식으로 서비스를 사용할 수 있습니다.
인프라 관리 불필요: Roboflow가 모든 인프라와 데이터 관리를 처리하므로 비즈니스 사용 사례 해결에 집중할 수 있습니다.
제한 사항:
비동기적 처리 특성: Batch Processing 서비스는 컴퓨팅 리소스가 사용 가능할 때 백그라운드에서 실행될 처리 작업을 시작합니다. 필요한 서버를 프로비저닝하는 데 일반적으로 몇 분밖에 걸리지 않지만 작업의 정확한 시작 시간을 보장하지는 않습니다. 결과적으로 이 서비스는 실시간 처리에는 적합하지 않습니다.
Custom Python Blocks 미지원: 서비스가 Roboflow의 인프라에서 실행되기 때문에 현재 Custom Python Blocks를 통한 임의 코드 실행을 지원하지 않습니다.
Dedicated Deployments
Dedicated Deployments 전용 배포는 모델을 실행하기 위해 전용 GPU와 CPU를 제공합니다. 이 옵션은 일관된 성능, 리소스 격리 및 향상된 보안을 제공하므로 리소스 격리나 맞춤형 코드 실행이 필요한 까다로운 애플리케이션과 프로덕션 워크로드에 적합합니다.
장점:
일관된 성능: 전용 리소스는 모델에 대해 일관된 성능을 보장합니다.
리소스 격리: 모델이 격리된 리소스에서 실행되어 다른 사용자의 간섭을 방지합니다.
GPU 지원: SAM2, CogVML과 같은 GPU 지원이 필요한 대형 모델을 Dedicated Deployments에서 실행할 수 있습니다
제한 사항:
미국 기반 데이터센터로 제한: 현재 Dedicated Deployments는 미국 기반 데이터센터에서만 제공되므로 다른 지역 사용자에게는 더 높은 지연 시간이 발생할 수 있습니다.
Last updated
Was this helpful?