추론 CLI

Inference Server 실행, 워크플로를 사용한 데이터 처리, 벤치마킹, 예측, 클라우드 배포를 위한 명령줄 도구.

Roboflow Inference CLI는 다음을 위한 명령줄 인터페이스입니다. inference 생태계입니다. 이를 사용하여:

• 다음을 실행하고 관리할 수 있습니다. Inference Server 로컬에서

• 다음을 사용하여 데이터를 처리할 수 있습니다. Workflows

• 성능을 벤치마크하고 추론 성능

• 다음을 수행합니다. 예측 모델에서

• Inference Server를 다음에 배포합니다. 클라우드

설치

pip install inference-cli

이미 설치한 경우 inference Python 패키지가 설치되어 있다면, CLI는 이미 포함되어 있습니다.

이는 Inference CLI(inference ...), 오픈 소스 Inference Server를 관리합니다. 이는 다음과는 다른 도구입니다. Roboflow CLI (roboflow ...), 프로젝트, 데이터세트, 버전과 같은 플랫폼 리소스를 관리합니다.

지원되는 장치

Inference CLI는 현재 다음 장치 타깃을 지원합니다:

• x86 CPU

• ARM64 CPU

• NVIDIA GPU (Jetson 포함)

Jetson 전용 Inference Server 이미지는 다음을 참조하세요. Inference Server 페이지를 보거나 이미지를 직접 가져오세요.

명령

명령	설명
추론 서버	로컬 Inference Server를 시작, 중지 및 확인합니다.
inference infer	이미지, 디렉터리 및 비디오 파일에서 예측을 실행합니다.
inference workflows	Workflow로 이미지와 비디오를 처리합니다.
inference benchmark	Inference Server 또는 다음의 성능을 벤치마크합니다. inference Python 패키지.
inference cloud	Inference Server를 AWS 또는 GCP 가상 머신에 배포합니다.