スケーリング強化による安定性とパフォーマンスの向上
ここ数週間取り組んできた更新をいくつかご紹介します。これらの変更により、プラットフォームの安定性と速度がさらに向上することを期待しています。
それでは、詳しく見ていきましょう!
アップローダーの自動スケーリングは、エンコーダーの場合よりも少し難しくなります。大量のアップロードが到着すると、それぞれが特定のマシンに紐づくためです。そのため、到着後にスケーリングしても、すでに進行中のアップロードには効果がありません。これまでも、大量のアップロードを受けた後、多数のエンコーディング用ドローンが起動し、少数のアップローダーと入出力データをやり取りすることで、I/O 負荷が高まることがありました。
今回、2台の c1.medium アップローダーを、3台の
m1.xlarge に置き換えました。これだけで I/O スループットは従来の 6倍になり、アップロードの急増にも問題なく対応できています。アップローダーマシンの I/O をさらに削減するため、ほかの方法も検討しています。たとえば、受信したすべてのファイルをすぐに Amazon S3 に送り、ドローンがそこからダウンロードする方法です。また、アップローダーの役割を分散し、自動スケーリングする方法も調査しています。SSD 搭載マシンにも引き続き注目しています。これらについては、今後も進捗をお知らせします!
Autoscaler を書き直しました。改良した新バージョンでは、キューを分析し、処理に追いつくために何台のマシンを並列で起動すべきか判断できるようになりました。スケーリングも以前より大幅に積極的に行います。その結果、キューの待ち時間が大幅に短縮されました。たとえば、過去一週間半に、/image/resize の待ち時間が 5分を超えたことも、/video/encode の待ち時間が 18分を超えたこともありませんでした。この 18分の待ち時間が発生したのも、最大規模のお客様のうち二社が同時に動画を一括インポートし、130 GB の動画キューが生じたためです。このときは、20分未満で 8コアのエンコーディングマシンを 2台から 39台に増やしました。
これだけではありません!ステータスページで、画像リサイズと動画エンコーディングの現在のキューの待ち時間も確認できるようになりました。
さらに、ウェブサイト上で Assembly の一覧表示と検索を処理するコードも書き直しました。その結果、パフォーマンスが大幅に向上しました。また、一部のお客様から報告されていた、タイムアウトによって空のページが表示される問題も解消される見込みです。最後に、負荷は高いものの重要度が低いクエリは、読み取り専用スレーブに送るようにしました。これにより、負荷の高い検索や分析、レポートが本番環境に影響しないようにしています。
これらの変更について、ぜひご意見をお聞かせください。安定性とパフォーマンスをさらに高めた製品をお届けできることをうれしく思います。新機能を含め、今後も多くの改善を予定していますので、どうぞご期待ください!😄
