QPSは送っている速度、つまり1秒あたりのリクエスト数で、2つの異なる制限が通常この数字で表されます。対象は抑制を始める前に、アドレスごとの最大QPSを守らせ、プロキシのプランは、運ぶQPSや同時接続数に上限を設けていることがあります。実際のスループットは、その2つの上限のうち先に当たったほうで決まり、だからこそ速いネットワークでも、速度を制限するプランでは遅く感じることがあるのです。
並行性と分けて考える価値があります。2つは関連していますが、同じではないからです。並行性は同時に処理中のリクエストの数で、QPSは1秒あたりに完了する数です。2つは一緒に動き、並行性を上げれば一般にQPSも上がりますが、その関係はレイテンシに制約されます。各リクエストに0.5秒かかり、一度に10件実行すれば、並行性をいくら加えても、レイテンシを短くするかプールを広げるまでは、おおよそ毎秒20件になります。
対象に対して、レート制限に引っかかるのはQPSで、防御は巧妙さより算数です。アドレスごとに数えられる制限なら、持続可能な合計QPSは、アドレスごとの制限に、分散させる異なるアドレスの数を掛けたものになります。それこそがプールでスループットが上がる理由のすべてです。どのアドレスも速くはならず、多くのアドレスをそれぞれの上限の下で動かせるようになるのです。アドレスごとのQPSを上げすぎれば、プールがどれほど大きくても制限に引っかかります。
誠実な設定方法は、並行性と同じ規律で、下から、対象ごとに決めることです。控えめな速度から始め、エラー率を見ながら上げ、失敗が始まる直前の点を、その宛先の上限として扱ってください。固定された機械のように規則正しいQPSはそれ自体がシグナルなので、速度に本物のばらつきを持たせれば、制限の下にとどまりつつ、メトロノームより機械的にも見えにくくなります。
よくある質問
QPSと並行性の違いは何ですか?
並行性は同時に実行中のリクエストの数で、QPSは1秒あたりに完了する数です。一緒に上がりますが、レイテンシでつながっています。リクエストが遅い場合、枠より往復を待つようになった時点で、並行性を加えてもQPSは上がらなくなります。お客様が調整するのは並行性で、QPSは一部がその選択の結果で、一部が対象の速さの性質です。
ブロックされずにQPSを上げるには、どうすればよいですか?
どれかひとつのアドレスを強く押すより、より多くのアドレスに速度を分散させてください。対象がアドレスごとにQPSを制限しているなら、安全な合計は、そのアドレスごとの制限に使う異なる出口の数を掛けたもので、まさにプールが提供するものです。ひとつのアドレスで速度を上げても、その制限に早く引っかかるだけなので、プールを拡大してください。
プロキシプロバイダーはQPSを制限していますか?
多くのプロバイダーが、リクエストの速度か同時接続数のどちらかに上限を設けており、それは見出しより、プランの詳細に書かれていることがよくあります。速度の上限は、言葉を変えたスループットの上限なので、安く見えるGB単価でも実際には遅いことがあります。同じ価格の2つのプランでも実際に送れる量は大きく異なることがあるため、プランを比べる前に確認してください。
用語集全体に戻る。

