キュー
お客様から大規模なファイル処理のための有効なリクエストが送信されると、わずか数秒で当社のシステムの処理能力を超えることがあります。こうしたピークを効率的に管理し、すべてのお客様に円滑なサービスを提供するために、キューイングの仕組みを導入しています。
どのような仕組みですか?
- Live Queue: ファイルを直接アップロードすると、Encoding Jobs は即時処理のために、高速処理レーンとして機能する Live Queue に入ります。ライブ Jobs は、他のすべての Jobs よりも優先されます。Live Queue は、すべてのお客様で共有されます。
- Batch Queue: Batch Queue は、リアルタイム処理を必要としない、より大規模な Jobs 向けのキューです。バッチへの自動分類は、単に Assembly 内のファイルの総数によって決まるのではなく、インポーターとその一括インポートルールによって決まります。Batch Queue を明示的に選択するには、Step に
"queue": "batch"を設定します。対象となるバッチ Jobs は、利用可能なワーカーの処理能力を使用して、より低い優先度で実行されます。ライブ Jobs がその処理能力を利用できない場合は、ライブ Jobs がキューに残っていても実行できます。Batch Queue も、すべてのお客様で共有されます。 - 自動切り替え: 送信されるライブ Jobs が多すぎて、サブスクリプションプランの Priority Job Slots の数を超えると、他のお客様のライブ処理のパフォーマンスに影響しないように、Jobs は順次バックアップキューに移されます。お客様のライブ Jobs の一部が完了して Workspace の Priority Job Slots に空きができると、それらの Jobs はすぐに Live Queue に戻されます。
- バックアップキュー: 同様に、送信されるバッチ Jobs が多すぎる場合も、それらは順次バックアップキューに移されます。お客様のバッチ Jobs の一部が完了して Workspace のバッチ Job スロットに空きができると、共有の Batch Queue にすぐに再登録されます。
Jobs はいくつのスロットを消費しますか?
必要なスロット数は、Job の種類によって異なります。たとえば、/video/encode の Job は 60 スロットを占有し、/image/resize の Job は 5 スロットを使用します。
すべての Robots と、それぞれに必要なスロット数の一覧は、Priority Job Slot の FAQ 項目で確認できます。
並列で処理できる Jobs の数はいくつですか?
各サブスクリプションプランには、リージョンごとにライブ Job スロットとバッチ Job スロットの上限があります。たとえば、Priority Job Slots の上限が 120 の場合、画像のリサイズを 24 件(各 5 スロット)、または動画のエンコードを 2 件同時に実行でき、それを超えると Jobs が順次バックアップキューに移され始めます。同様に、バッチ Job スロットが 360 ある場合、Batch Queue に登録される動画の Jobs が 6 件を超えると、それ以降の Jobs はバックアップキューに登録されます。
サブスクリプションプランの Priority Job Slots と バッチ Job スロットの上限は、リージョンごとに適用されます。
パフォーマンスの低下を避けるにはどうすればよいですか?
-
Priority Job Slots と バッチ Job スロットの数を増やすと、スループットが向上します。カスタムの値については、お問い合わせください。
-
waitForEncodingをfalseに設定します(たとえば、Uppy 連携で利用できます)。これにより処理が非同期になるため、キューの待ち時間が 2 分あっても、エンドユーザーの操作を妨げません。ファイルの準備ができると、当社からnotify_urlに通知を送り、お客様はユーザーに通知します。この方法は、最良のユーザー体験と信頼性を提供し、必要に応じて Assembly Replays を有効にできます。詳しくは、Assembly Notifications のドキュメントをご覧ください。 -
Step に
"queue": "batch"を設定すると、その Jobs の優先度を自分で下げることができ、キューの待ち時間をゼロにする必要がない Jobs で Priority Job Slots を消費するのを避けられます。例:
{
"steps": {
// …
"encode": {
"use": ":original",
"robot": "/video/encode",
"queue": "batch",
// …
},
// …
}
}
自分のリージョンの現在のキュー待ち時間はどこで確認できますか?
Live Queues と Batch Queues の現在のキュー待ち時間は、ステータスページで確認できます。また、キュー API エンドポイントからプログラムで取得することもできます(値は秒単位です)。