レート制限(レートリミット)とは?AIのAPIで一定時間に呼べる回数の上限をやさしく解説

PoCは動いたのに、アクセスが集中した瞬間に止まったとき

検証では問題なく動いていたAI機能が、本番でアクセスが集中したとたんにエラーを返して止まる。 ログを見ると「429」という見慣れない番号が並んでいる——そんなときに関係しているのが、レート制限です。

レート制限とは?ひとことで言うと

レート制限(レートリミット)とは、AIのAPIで「一定時間に呼べる回数・量の上限」のことです。 ざっくり言うと、提供元が決めた「この勢い以上は受け付けません」という流量の上限、と考えると分かりやすいと思います。お金が足りるかどうか(料金)とは別の、「短い時間にどれだけ流せるか」という壁です。

上限を超えてリクエストを送ると、APIは処理せず「今は多すぎます」という意味のエラー(よく見る 429 Too Many Requests)を返します。

大量のリクエストが押し寄せても、流量を絞った管は決まった量しか通さず、あふれた分は押し戻されて止まる、レート制限の仕組みを表したイラスト
レート制限は「一定時間に流せる量の上限」。勢いが上限を超えると、あふれた分は受け付けられず弾かれる

開発現場ではどこで使う?

実際の開発では、こんな場面で関係してきます。

「動かす」段階では当たらなくても、「本番でさばく」段階で必ず顔を出すのがレート制限です。

なぜ大事なのか

レート制限を知っておくと、本番で機能が止まる原因を事前に避けられます。 上限は主に「1分あたりの回数(RPM)」と「1分あたりのトークン量(TPM)」で決まっていて、どちらか一方でも超えると弾かれます。これを知らずに出すと、1日の合計はゆとりがあっても、特定の1分に集中した瞬間に止まる、という事故が起きます。先に上限を確認しておけば、待たせる・流す量を抑えるといった手を打てます。

具体例で見る

たとえば1日2,000回呼ぶ機能でも、昼休みの数分に半分のリクエストが集中すれば、その1分間の回数が上限を超えてエラーになることがあります。 また、始めたばかりのアカウントは上限が低く設定されていることが多く、利用実績や契約に応じて段階的に引き上がる仕組みになっている場合がほとんどです。本番前に「自分のアカウントの上限はいくつか」を確認しておくのが安全です。

つまり現場では?

レート制限を見るということは、「うちの使い方だと、ピークの1分間に何回・どれだけの量が流れるか」を出して、提供元の上限と突き合わせる作業です。1日の合計ではなく、一番混む瞬間で考えるのがコツです。

知らないとどう困る?

レート制限を知らないと、本番でアクセスが集中したときに突然エラーが多発し、原因が分からないまま機能が止まってしまうことがあります。 コード自体は正しいので余計に気づきにくく、「テストでは動いたのに」と慌てることになりがちです。事前に上限を見ていれば、防げた障害です。

よくある勘違い

明日やるならこれ

使っているAIサービスの公式ページで、自分のアカウントの「1分あたりのリクエスト数」と「1分あたりのトークン量」の上限を1つ調べてみましょう。その値と、今の機能がピーク時に出しそうな回数を並べてみるだけで、本番で危ないかどうかの当たりがつきます。

ひとことで言うと

レート制限とは、AIのAPIで一定時間に呼べる回数・量の上限のことです。

関連用語

関連記事