적합한 도구 선택하기

Inference server, inference 패키지, Inference SDK, Inference CLI를 언제 사용해야 하는지.

추론 Roboflow의 호스팅 API 뒤에서 작동하는 오픈 소스 컴퓨터 비전 배포 프레임워크입니다. 함께 작동하는 네 가지 구성 요소로 제공됩니다. 대부분의 프로젝트는 서버를 실행하고 SDK로 서버와 통신합니다.

구성 요소	무엇인지	언제 사용해야 하는지
추론 서버	모델과 워크플로를 HTTP API로 노출하는 Docker 컨테이너입니다.	여러 클라이언트, 언어, 또는 비디오 스트림이 호출할 수 있는 하나의 배포본이 필요할 때 사용합니다.
추론 패키지	자신의 프로세스에서 모델을 직접 로드하고 실행하는 Python 라이브러리입니다.	가장 낮은 지연 시간, HTTP 왕복 없음; 앱이 Python으로 되어 있고 모델과 같은 머신에서 실행됩니다.
inference-sdk 패키지	서버용 경량 Python HTTP 클라이언트입니다.	로컬 서버, Serverless Hosted API, 또는 Dedicated Deployment를 호출하는 표준 방법입니다 - 오직 api_url 가 변경됩니다.
inference-cli 패키지	서버를 시작하고, 모델과 워크플로를 실행하며, 배포를 벤치마킹하는 명령줄 도구입니다.	서버 설치 및 관리, 빠른 일회성 예측, 벤치마킹.

실행 중인 서버의 아키텍처(요청, 비디오 스트림, 워크플로가 서버를 통해 흐르는 방식)에 대해서는 다음을 참조하세요 추론 아키텍처. 자체 하드웨어에 서버를 설치하고 실행하려면, 다음부터 시작하세요 자가 호스팅 배포.

예제 노트북

Inference로 특정 문제를 해결하는 실행 가능한 노트북:

• CLIP을 사용해 비디오 분류하기 - 비디오의 프레임이 임의의 텍스트 프롬프트와 얼마나 유사한지 식별합니다.

• WebRTC로 비디오 스트리밍 - 웹캠, RTSP 스트림, 또는 비디오 파일을 모델이나 워크플로로 처리합니다.

• RGB 이상 감지 - 분할 마스크의 색상이 올바른지 확인합니다.

해당 Roboflow 노트북 저장소에는 훨씬 더 많은 학습 및 배포 예제가 있습니다.

커뮤니티 및 소스 코드

• GitHub의 추론 - 소스 코드, 이슈, 기능 요청. 다음을 참조하세요: CONTRIBUTING.md 에 기여하세요.

• Roboflow 포럼 - 컴퓨터 비전 개발자 커뮤니티에서 도움을 받고 연결하세요.

• Roboflow 블로그 - 튜토리얼, 모델 출시 소식, 그리고 컴퓨터 비전 뉴스.

• Supervision - 예측에 주석 달기, 필터링, 추적을 위한 재사용 가능한 유틸리티.