Transloadit の Rate Limiter とは?

デフォルトで、Assembly の作成数を毎分 250 件、Assemblies の同時実行数を 2,500 件に制限することで、お客様を保護するシステムです。デフォルトでは、各 Assembly はアップロードに最大 8 時間、その後の実行にさらに最大 8 時間を使用できます。拒否時には RATE_LIMIT_REACHED が使用され、info.retryIn に秒単位の待機時間が示されます。制限はご要望に応じて調整できます。

Rate Limiter の仕組み

レートリミッターは、一つ以上のレート制限ポリシーを適用するコンポーネントです。選択したキーに基づいて受け入れた処理を監視し、独立した各上限と比較して、新たな処理を受け入れるか、遅延させるか、拒否します。送信数、同時実行数、各フェーズの所要時間の上限を分離することで、クライアントが一つの制約を満たしながら別の枠を使い切ることを防ぎます。連携を実装する際は、これらをローカルのスケジューリングコードにコピーするのではなく、API リファレンスに記載された現在の製品の設定値と拒否時のレスポンス形式を、正式な仕様として扱ってください。

要点

  1. 作成枠は時間当たりの受け入れを制御し、同時実行枠はアクティブなままの処理を制御します。クライアントのスケジューラーは、両方を個別に考慮する必要があります。
  2. アップロードと実行は、別々の処理フェーズです。どちらのフェーズでも処理が長引くと、直近の送信レートが低くても同時実行枠を占有し続けることがあります。
  3. 再試行の動作はサービスの契約仕様に含まれます。クライアントは、ドキュメントに記載された拒否シグナルを認識し、即座に再試行するのではなく、指定された待機時間を守る必要があります。

Rate Limiter が重要になる場面

送信レートと同時実行数をドキュメントに記載された上限内に保つか、予測できるトラフィックの急増に先立って上限の調整を手配してください。拒否はバックプレッシャーとして扱います。新規送信を停止し、エラーの info.retryIn フィールドに示された秒数だけ待機してから、徐々に再開してください。制御せずに即座に再試行しても、試行回数が増えるだけで、メディア処理の完了にはつながりません。

メディアの知識を実用的なパイプラインに

単一の宣言的 API で、アップロード、処理、AI、ストレージ、配信を連携できます。エンコードスタックの管理、スケーリング、形式の変化への対応はお任せください。

Transloadit を無料で試す