For the complete documentation index, see llms.txt. This page is also available as Markdown.

ホスト型 API(レガシー)

Hosted API(レガシー)の概要、対応モデル、および移行ガイダンス。

モデル対応

Hosted API(レガシー)でサポートされているモデルの種類は次のとおりです:

レイテンシ比較

Hosted API(レガシー)に送信されたリクエストのエンドツーエンドのレイテンシは、いくつかの要因に依存します:

  1. 実行時間に影響するモデルアーキテクチャ

  2. アップロード時間と実行時のモデル推論時間に影響する画像のサイズと解像度

  3. リクエストのアップロード時間とレスポンスのダウンロード時間に影響するネットワーク遅延と帯域幅。

  4. サービスの契約状況や、特定の時点での他のユーザーによる利用状況。これにより、キューイング遅延が発生する可能性があります

Hosted API(レガシー)と Serverless Cloud API のいくつかの代表的なベンチマークを、下の表で示します。そこにはエンドツーエンドのレイテンシ(E2E)と実行時間(Exec)の両方が示されています。これらの数値は参考情報にすぎないため、ユーザー自身で 当社の推論ベンチマークツール または独自のカスタムベンチマークを使用することを推奨します。

モデル
V2(E2E)
V2(Exec)
V1(E2E)
V1(Exec)

yolov8x-640

401 ms

29 ms

4084 ms

821 ms

yolov8m-640

757 ms

21 ms

572 ms

265 ms

yolov8n-640

384 ms

17 ms

312 ms

63 ms

yolov8x-1280

483 ms

97 ms

6431 ms

3032 ms

yolov8m-1280

416 ms

52 ms

1841 ms

1006 ms

yolov8n-1280

428 ms

35 ms

464 ms

157 ms

ユーザー自身で、実際のユースケースにおける正確な指標を得るために、モデル推論やワークフローについて独自のベンチマークを実施することを推奨します。

制限

Hosted API(レガシー)は、具体的なタスクタイプに関係なく、最大 5MB のファイルを受け付けます。この制限には、画像ファイルサイズだけでなく、添付されたリクエスト情報も含まれます。

リクエストが大きすぎる場合は、添付画像のサイズを小さくすることを推奨します。画像は、サーバーで受信された後に、モデルアーキテクチャが受け付ける入力サイズまで自動的に縮小されるため、通常はパフォーマンスが低下することはありません。 Python SDK などの一部の SDK では、API に送信される前に画像をモデルアーキテクチャの入力サイズまで自動的に縮小します。

最終更新

役に立ちましたか?