다른 장치 사용

대체 ONNX Runtime 실행 공급자를 통한 비-NVIDIA GPU를 포함한 지원되지 않는 하드웨어와 다른 엣지 SDK에서 Roboflow Inference를 실행합니다.

추론은 x64 및 ARM 프로세서에서 테스트되었고 지원되며, 선택적으로 NVIDIA/CUDA GPU를 사용할 수 있습니다. 다른 장치에서 실행하는 것도 가능할 수 있지만 공식적으로 테스트되거나 지원되지는 않습니다.

기타 GPU

NVIDIA 및 Apple이 아닌 GPU의 하드웨어 가속은 현재 지원되지 않지만, ONNX Runtime에는 추가 실행 공급자가 있습니다 AMD/ROCm, Arm NN, Rockchip 등용입니다.

이러한 런타임 중 하나를 설치하면 다음을 사용해 이를 활성화할 수 있습니다 ONNXRUNTIME_EXECUTION_PROVIDERS 환경 변수입니다. 예를 들면:

export ONNXRUNTIME_EXECUTION_PROVIDERS="[ROCMExecutionProvider,OpenVINOExecutionProvider,CPUExecutionProvider]"

이는 테스트되지 않았으며 성능 향상이 보장되지 않습니다. CUDA가 아닌 GPU의 가속은 Docker 내부에서 작동할 가능성이 낮습니다. 다음을 참조하세요. Mac 설치 가이드 컨테이너 밖에서 서버를 실행하는 방법의 예시를 보려면.

기타 엣지 디바이스

Roboflow에는 다음을 포함한 다른 배포 대상에서 객체 탐지를 기본적으로 실행하기 위한 SDK가 있습니다 웹 브라우저의 TensorFlow.js, iOS의 네이티브 Swift CoreML을 통해, 그리고 Snap Lens Studio. SDK 개요 전체 목록은

다른 장치에서 Workflows 및 기타 유형의 모델을 실행하는 등의 추가 기능을 사용하려면 HTTP를 통해 Inference Server에 연결하세요 Inference SDK를 사용하여.