# 420万リクエストでレスポンス時間を2.5秒から1秒未満へ短縮した手法

> URL: https://foura.ai/ja/blog/5m-requests-latency-rebuild
> Updated: 2026-05-09
> Index: https://foura.ai/llms.txt

24時間で420万リクエスト。平均レスポンス: 774 ms。成功率: 99.91%。再構築前の7日間の平均は、同じワークロードで2.5秒でした。同一のハードウェア、同一のターゲットサイト、同一のproxyプールにおいて、平均レスポンス時間が70%短縮されました。私たちは、知らず知らずのうちに顧客の夜間の時間を奪っていたrequestパスの各コンポーネントを再構築しました。

本記事では、変更点の内容、実際の数値、そしてSingleとProxy Finderの設計が異なる理由について解説します。

まず、データに関する注記です。この記事の数値は本番環境のトラフィックからのものですが、特定のターゲットホストを1件除外しています。そのホストは今週を通じて能動的なrate limitやchallengeリクエストを行っており、あらゆるメトリクスを歪めてしまうためです。これを含めると成功率は約95%まで低下します。しかし、この5%の差は私たちのインフラの障害ではありません。ピッカーの性能に関係なく、1つのサイトがリクエストを拒否していることによるものです。システムが協調的なターゲットに対して実際にどのように動作するかを示すため、このホストを除外しました。

## データが示すもの

過去1週間の本番トラフィックにおける日次平均は以下のとおりです。

![過去7日間の本番トラフィックにおける日次平均レスポンスタイム。4月28日に約2.5秒から1秒未満へ低下していることを示す](https://foura.ai/blog/img/2026-04-29-latency/01-daily-avg.png)

4月22日から4月27日: 平均は2,318 msから3,116 msの間、トラフィックは1日あたり280万から770万リクエスト。4月25日は770万リクエストで3,116 msと目立っていますが、これは土曜日のピークによるものです（週末のボリュームは著しく増加し、平均を押し上げます）。4月28日: 380万リクエストで672 ms。4月29日（09:00 UTCまでの集計途中の数値）: 現時点で170万リクエストで880 ms。

同じアーキテクチャ。同じproxy。同じターゲットサイト。異なるのはrequestパスのみです。

パーセンタイルで見ると、平均値よりも明確な差が現れます。平均値は悪化したテールレイテンシを隠してしまうことがありますが、パーセンタイルは隠せません。

![再構築前後のレイテンシパーセンタイル: 平均は48%削減、p95は54%削減、p99は61%削減](https://foura.ai/blog/img/2026-04-29-latency/02-percentiles-before-after.png)

このグラフは、再構築後の24時間と再構築前の24時間を比較したものです。p50はほとんど変化していません（正確なデータとして4%微増していますが、高速パスはすでに良好であり、新しいピッカーはテールでの遅延を大幅に抑えるために事前の処理をわずかに増やしています）。この期間中、平均は48%低下しました。p95は8.5秒から3.9秒へと54%削減されました。p99は20秒から7.8秒へと61%削減されました。ここにこそ根本的な課題があり、スクレイパーが最も遅い5%のリクエストの完了を待つ際に実際に体感する遅延となります。再構築前の7日間（平均が約2.5秒で推移していた期間）と比較すると、本日の平均774 msは70%の低下となります。

成功率も向上しました。同期間で98.85%から99.91%になりました。特にProxy Finderでは99.89%に達し、Singleでは99.96%を記録しました。これは私たちが最も誇りに思っている数字です。なぜなら、リトライを必要とせず、初回の試行で有用なデータを返せている頻度を示す指標だからです。

## 2つの製品、2つのレイテンシプロファイル

当社では Single と Proxy Finder を直接比較しません。これらは異なる課題を解決するものであり、許容されるレイテンシバジェットも異なります。一方を使用しながらもう一方の数値を参照している場合、見ている指標が根本的に異なっています。

![Single と Proxy Finder のレイテンシパーセンタイル (p50、p95、p99の並行比較)](https://foura.ai/blog/img/2026-04-29-latency/03-product-profile.png)

**Single** は、当社のインフラを経由する単発の HTTP request です。URL と、本番環境の実際の呼び出しの約99%においてはすでに動作確認済みの proxy id を指定します。当社はその proxy 経由で URL を取得し、ユーザーは response を受け取ります。ローテーションロジックや再試行のカスケード、proxy の頻繁な入れ替えはありません。過去24時間の実績: p50 が 100 ms、p95 が 371 ms、p99 が 581 ms です。大半の呼び出しは0.2秒未満で完了します。最も遅い上位1%であっても600 ms未満で返されます。

**Proxy Finder** は検出レイヤーです。パブリック proxy のプール全体で request をローテーションし、各候補を検証し、失敗時には再試行を行い、実際に動作した最初の response と、それを処理した proxy の id を返します。p50 が 445 ms、p95 が 5.4秒、p99 が 10.2秒です。必要な処理を行うため、その分レイテンシは長くなります。スクレイパーがターゲットサイトにアクセスする IP をローテーション可能で使い捨ての状態に保つことこそが、この機能の本質です。ブロックリストや rate limit への耐性を得るために、数秒のオーバーヘッドをトレードオフとして受け入れます。

Single がこれほど高速なのは、魔法があるからではありません。Proxy Finder が検出した結果を Single が信頼して利用しているためです。Proxy Finder を一度呼び出して「この proxy は動作しました、これがその id です」と返された後、同じターゲットに対して Single 経由で行う後続の取得処理では、検出ステップ全体がスキップされます。検証に合格済みの proxy へ直接アクセスすることになります。

## チームによる併用方法

同一のターゲットに高頻度でアクセスするチームの大半は、2段階のパターンを採用しています。初回の呼び出しは探索用であり、それ以降は確定した proxy を使用します。

初回の呼び出しは Proxy Finder に送信されます。プール全体をローテーションし、指定された許容ルールに照らして各候補を検証し、response とともに正常に動作した proxy の id を返します。その id は、同一ターゲットへアクセスする今後のあらゆる呼び出しのハンドルとなります。

それ以降のすべての呼び出しは、proxy id を付与して Single に送信されます。検出、検証、再試行のカスケードは発生しません。指定された proxy 経由で request をルーティングし、response をストリーミングで返します。これが p50 で 100 ms を達成する処理パスです。

昨日まで動作していた proxy が今日ブロックされた場合は、Proxy Finder にフォールバックして1回だけ再検出を行い、新しい id で Single の取得処理を再開します。古くなった情報の隠蔽は行いません。渡された proxy id が無効化している場合、迅速に通知されるため即座にローテーションへ移行できます。

この 99対1 の比率 (ボリュームの大半を占める Single、検出に特化した Proxy Finder) が、Single の数値がこれほど良好である理由です。Single が本質的に高速な製品であるというわけではありません。Single は定常状態であり、Proxy Finder はキャリブレーションステップです。大半のワークロードは、そのほとんどが定常状態にあります。

呼び出し元を気にしないクリーンな公開APIからJSONを取得するだけであれば、proxyを完全にスキップしてSingle単体を使用してください。使い捨てIPのプールからフラグを立てられずに保護されたページへアクセスすることが目的であれば、両者を組み合わせて構成します。これらは二者択一ではありません。同一ワークフローの異なるステージです。

## 変更点

改善の大部分は、proxyローテーションパスにおける3つの要素を再構築したことによるものです。いずれも新しいアイデアではありません。単に後回しにしていた実装でした。

**無効なデータの信頼を停止。** 再構築前は、proxyディレクトリがエントリを本来よりも長く保持していました。その一部はすでに到達不能となっていました。そうしたエントリを選択すると、接続不可が判明するまでに15から30秒が無駄になっていました。プールがほぼリアルタイムで実際に生存している状態を反映し、ピッカーが最近成功が確認されたIPを優先するモデルへと移行しました。

**稼働状態だけでなく、proxyごとの品質スコアを導入。** 以前は、最終的に成功しさえすれば、応答に5秒かかるproxyも300 msのproxyも同等として扱われていました。現在はピッカーがレイテンシも追跡します。動作はするものの遅いproxyはキューの後方に送られます。高速なproxyはウォームなうちに再利用されます。レイテンシ分布のロングテールの大半は、従来のピッカーが選択し続けていた「動作はするが低速なproxy」であったため、この変更は想像以上の効果をもたらします。

**ターゲットごとの品質スコア。** あるドメインで安定しているproxyが、別のドメインでは不安定になることがあります。あるサイトに対してクリーンに動作するIPが、別のサイトではブロックされたりrate limitを受けたりします。現在、ピッカーは全体だけでなくターゲットホストごとに成功率とレイテンシを追跡します。特定のドメインに対するフェッチを要求すると、そのドメインで最近実際に良好なパフォーマンスを示したproxyから選択されます。全体として良好なproxyも候補に残りますが、該当ターゲットで実績のあるproxyが、全体的な実績の高いproxyより優先されます。

**よりスマートなリトライのエスカレーション。** 以前は、リクエストが失敗した際に即座に並列試行を展開していました。これは無駄が多く、さらに悪いことに、単一の不良proxyが原因で後続の試行が連鎖的にすべて失敗することがありました。現在は短いバックオフを挟んで順次リトライがエスカレートするため、失敗は単なる失敗、リトライは単なるリトライとして処理され、無用な増幅は防がれます。

利用者からは見えにくいものの、言及しておくべき2つ目の変更カテゴリがあります。

**再起動時の耐障害性。** 従来、requestインフラストラクチャを再デプロイすると、proxyの品質スコアマップがゼロから再構築されるまでに5〜15分の時間を要していました。その間、ピッカーは基本的に推測で動作することになります。顧客側では、これがデプロイ直後のレイテンシスパイクとして観測されていました。現在はこの品質マップが再起動をまたいで永続化されます。システムはウォームな状態で起動します。本日より、レイテンシスパイクを発生させることなく、日中にインフラストラクチャの変更をデプロイできるようになりました。今朝実施した再起動テストでは、接続の瞬断は15秒にとどまり、その後のリカバリ時間はゼロでした。これはデプロイ頻度における地味ながらも重要な変化です。トラフィックの少ない時間帯に合わせて再デプロイをスケジュールする必要はもうありません。

**より明確な障害シグナル。** インフラストラクチャ内部で問題が発生した際、リトライロジックが適切に対処できるよう、正確なHTTPステータスコードを返すようにしました。一時的に利用不能なバックエンドは503を返します。不正なJSONを返したバックエンドは502を返します。純粋な内部エラーは500を返します。以前はこれら3つがすべて500として扱われていたため、リトライロジック側で「待機して再試行」すべきか「破損しているためエスカレーション」すべきかを判断できませんでした。今後は区別が可能になります。

## ユーザーへの実質的な影響

ローテーションproxyに対してスクレイパーを実行している場合、実質的な変化として、p95とp99が1週間前と比べてそれぞれ約半分に削減されます。平均request時間は短縮されます。応答は遅いものの最終的には機能するproxyに起因するリトライは減少します。1,000件のrequestを処理するジョブが20分ではなく1時間かかってしまう原因となるテールレイテンシも、これに伴って低下します。

Singleを実行している場合、ピッカーの改善効果は主にテール部分に現れます。p99は600ミリ秒未満に低下しました。つまり、下位1%の不運なrequestであっても高速に応答が返ることを意味します。Singleはもともと高速でしたが、さらに一貫性が向上しました。

## 現時点における制約

すべての問題が解決されたわけではありません。依然として適用される具体的な制約事項は以下のとおりです。

**Proxy Finderのp99は依然として約10秒です。** 半減させたものの、ロングテールは依然として存在します。その一部は当社の要因（プールの深さ、稀なターゲットに対するピッカーのノイズ）によるものです。しかし、多くは外部要因です。ターゲットサイト自体の応答遅延、特定ルートに対するrate limit、検査に時間を要するチャレンジページの配信、あるいは単純なタイムアウトなどが挙げられます。当社のインフラストラクチャは利用可能な最適なIPを選択できますが、応答すべきかどうかを判断しているターゲットサーバー自体の処理を高速化することはできません。すべてのrequestが5秒未満で返ることに依存するジョブの場合は、許容範囲に応じたrequest単位のタイムアウトを設定し、リトライ層を活用してください。

**一部のターゲットは敵対的であり、それは数値に現れます。** 冒頭で触れたように、99.91%の成功率には、今週アクティブに当システムへ異議を申し立てている（ブロックを試みている）1つのホストを除外しています。それを含めると、成功率は約95%まで低下します。そのホストは特別な例ではありません。公開Webデータを扱うアグリゲーターであれば誰もが目にする挙動です。ターゲットは週ごとに変化します。pickerの再構築により、システムは敵対的なターゲットを迂回してルーティングする精度を大幅に向上させましたが、トラフィックを完全に拒否することを決めたサイトを強制的に上書きすることはできません。私たちの役割は、協調的なケースで可能な限りクリーンなデータを提供し、敵対的なケースでは迅速に失敗（fail fast）させることです。

**同日比較にはノイズが含まれます。** パーセンタイルチャートで示している24時間枠は、昨日と一昨日を比較したものです。曜日による影響、ターゲットサイトの分散、プールの構成は、いずれの2つの期間の間でも変動します。方向性には確信を持っていますが（7日間のチャートでは4月28日に明確な屈曲点が見られます）、ご自身のワークロードでベンチマークを行う場合は、少なくとも1週間にわたって比較を実行してください。

## 今後の展開

pickerの刷新は基盤に過ぎません。その後に控えている計画は以下の通りです。

インスタンス間で共有されるquality-scoreマップ。独立したマップを個別に構築するのではなく、相互に学習できるようにします。現状では、各インスタンスがどのproxyが良好かという独自の状態を保持しています。これでも機能はしますが、無駄が多く、すべてのインスタンスが同じ学習コストを並行して支払うことになります。

確信度ベースの選択。推測に基づくproxyよりも、過去数分以内に実際にテスト済みのproxyを優先します。自前のトラフィックだけではpickerをウォーム状態に保てない低ボリュームの顧客に有用です。

そしてより長期的には、より多くの判断をpickerへ移行させ、ターゲットごとのquality scoreを多くのシグナルの1つ（ターゲットのレイテンシプロファイル、時間帯のパターン、プールセグメントの健全性など）として扱うようにします。ホットパスの速度を落とさずにこれを実行するためのインフラが整いました。

最もコストの低いrequestは、retryする必要のなかったrequestです。pickerの再構築は、事後の試行回数を増やすよりも、選択の瞬間に優れたデータを持つ方が勝るという賭けです。最初の24時間のデータを見る限り、その賭けは正しかったと言えます。
