search
Sign InBook a DemoGet Started

관리형 배포

Roboflow는 모델을 실행하기 위해 당사의 클라우드 인프라를 활용하는 여러 관리형 배포 옵션을 제공합니다. 이러한 옵션은 사용하기 쉽고 우수한 확장성 옵션을 제공하여 광범위한 애플리케이션에 적합합니다.

hashtag
Serverless API

The Serverless Hosted API 을(를) 통해 Roboflow의 인프라에서 워크플로우와 모델을 무한 확장 가능한 API로 직접 실행할 수 있습니다. 이는 모델을 배포하고 추론을 시작하는 가장 쉬운 방법입니다.

장점:

  • 확장성: API는 자동으로 확장되어 추론 수요를 처리하므로 서버 프로비저닝 또는 관리를 걱정할 필요가 없습니다.

  • 사용 편의성: 간단한 REST API를 통해 모델에 접근할 수 있어 애플리케이션에 추론을 통합하기 쉽습니다.

  • 인프라 관리 불필요: Roboflow가 모든 인프라를 처리하므로 애플리케이션 구축에 집중할 수 있습니다.

  • 워크플로우 지원: 모든 워크플로우가 Serverless API의 API 엔드포인트로 제공되므로 간단한 HTTP 요청으로 워크플로우를 쉽게 실행할 수 있습니다

제한 사항:

  • 워밍업 요청: 아직 어떤 서버에도 로드되지 않은 모델을 로드해야 하는 요청을 보낼 때 초기 요청은 수초의 지연 시간이 발생할 수 있습니다. 이후 요청에서는 현재 실행 중인 서버에 모델이 캐시됨에 따라 요청 지연 시간이 크게 개선됩니다.

  • CPU 기반: The Serverless Hosted API 는 모델 추론에 CPU를 사용합니다; 전용 배포나 자체 호스팅 배포에 비해 더 높은 지연이 발생할 수 있으며 GPU가 필요한 모델은 사용할 수 없습니다 (Serverless GPU API coming soon).

hashtag
워크플로우

The Serverless Hosted API 을(를) 실행할 수 있습니다 워크플로우arrow-up-right 을(를) Roboflow 클라우드에서 실행할 수 있습니다. 이를 통해 자체 인프라를 관리하지 않고도 복잡한 컴퓨터 비전 애플리케이션을 구축하고 실행할 수 있습니다.

또한 워크플로우를 전용 배포 또는 자체 호스팅 추론 서버에서 실행할 수 있으며, 이를 통해 더 강력한 GPU 기반 모델을 사용하고 Custom Python Blocksarrow-up-right.

에서 워크플로우를 생성, 테스트 및 배포하는 방법에 대해 자세히 알아볼 수 있습니다 여기arrow-up-right.

hashtag
모델 추론

뿐만 아니라 워크플로우arrow-up-right 를 사용하여 특정 모델에 대해 추론할 수도 있습니다 Serverless Hosted API. Roboflow에서 학습한 모든 모델, 지원되는 기초 모델중 어느 것이든 추론할 수 있으며, 또한 https://universe.roboflow.comarrow-up-right

The 사용 방법 개요 Serverless Hosted API:

  1. Roboflow 대시보드에서 API 키를 획득하십시오.

  2. 이미지와 모델 정보를 포함하여 API 엔드포인트로 POST 요청을 보내십시오.

  3. 추론 결과를 JSON 형식으로 수신합니다.

자세한 내용과 API 사양은 Serverless Hosted API 문서를 참조하십시오

hashtag
배치 처리

Roboflow 배치 처리arrow-up-right 는 코드 작성 없이 대량의 비디오와 이미지를 처리할 수 있게 해주는 워크플로우 기반의 완전 관리형 솔루션으로, 빠른 작업을 위한 사용하기 쉬운 UI와 데이터 처리를 자동화하기 위한 포괄적인 API를 제공하여 소규모 및 대규모 워크로드에 모두 적합합니다.

구성 가능한 처리 워크플로우, 실시간 모니터링 및 이벤트 기반 알림을 통해 Roboflow 배치 처리는 데이터 처리를 효율적으로 관리하고 진행 상황을 추적하며 다른 시스템과 통합하는 데 도움을 주어 목표 달성을 쉽게 만듭니다.

장점:

  • 확장성: 서비스는 데이터 볼륨에 따라 자동으로 확장되며 수백만 개의 이미지와 수천 개의 비디오 파일을 효율적으로 처리할 수 있습니다.

  • 사용 편의성: 단순한 UI 클릭에서 CLI 명령 실행, 그리고 시스템과 원활하게 통합되는 프로덕션 등급 자동화arrow-up-right 를 구축하는 것까지 다양한 방식으로 서비스를 사용할 수 있습니다.

  • 인프라 관리 불필요: Roboflow가 모든 인프라와 데이터 관리를 처리하므로 비즈니스 사용 사례 해결에 집중할 수 있습니다.

제한 사항:

  • 처리의 비동기적 특성: 배치 처리 서비스는 컴퓨트 리소스가 사용 가능할 때 백그라운드에서 실행될 처리 작업을 시작합니다. 필요한 서버를 프로비저닝하는 데 일반적으로 몇 분밖에 걸리지 않지만 작업의 정확한 시작 시간을 보장할 수는 없습니다. 따라서 이 서비스는 실시간 처리에는 적합하지 않습니다.

  • Custom Python Blocks 미지원: 서비스가 Roboflow의 인프라에서 실행되기 때문에 현재 Custom Python Blocks를 통한 임의 코드 실행을 지원하지 않습니다.

hashtag
전용 배포

전용 배포 은(는) 모델을 실행하기 위해 전용 GPU와 CPU를 제공합니다. 이 옵션은 일관된 성능, 리소스 격리 및 향상된 보안을 제공하므로 리소스 격리 또는 사용자 지정 코드 실행이 필요한 까다로운 애플리케이션 및 프로덕션 워크로드에 적합합니다.

장점:

  • 일관된 성능: 전용 리소스는 모델에 대해 일관된 성능을 보장합니다.

  • 리소스 격리: 모델은 격리된 리소스에서 실행되어 다른 사용자의 간섭을 방지합니다.

  • GPU 지원: SAM2, CogVML과 같은 GPU 지원이 필요한 대형 모델을 Dedicated Deployments에서 실행할 수 있습니다

제한 사항:

  • 미국 기반 데이터센터로 제한: 현재 Dedicated Deployments는 미국 기반 데이터센터에서만 제공되므로 다른 지역의 사용자에게는 지연 시간이 더 길어질 수 있습니다.

Last updated

Was this helpful?