AI英会話のアプリが、こちらは何も変えていないのに急に返事を返さなくなることがある。その裏側で働いている仕掛けのひとつがレート制限だ。
これは英語力とも、こちらの発音とも関係がない。
OpenAI の Rate limits は、決められた時間のあいだに利用側がAPIへ何回触れられるかを縛る決まりとして、これを説明している。
つまり「使いすぎたら断る」という線が、アプリの外側にあらかじめ引かれている。
そして厄介なことに、この線は一本ではない。
回数の線、量の線、そして「増やし方の速さ」の線まであり、どれか一つに触れた時点で断られる。
この記事では、開発者向けの公式ドキュメントに書かれている決まりだけを材料にして、AI英会話の会話がどこで止まるのかを分解していく。
サービスの順位づけやおすすめはしない。
【結論】AI英会話のレート制限は「回数」と「量」のうち先に触れたほうで止まる
先に答えを置く。
公式は、上限に当たる条件が複数あり、そのうち最初に到達したもので判定されると書いている。
ドキュメントはこれを分かりやすい例で示している。
1分あたりの回数の枠が20で、1分あたりの語の枠が15万だったとする。
このとき、たった100語ずつの短い要求を20回送っただけで枠は埋まる。
語の側はまるで余っているのに、回数の側が先に尽きたからだ。
⇒ 短い相づちを高速で往復させる設計は、長文を一度送る設計よりも早く止まりうる。
AI英会話のような「短く何度も」という使い方は、構造的に回数の線へ当たりやすい。
なお、なぜこんな線があるのかについても、公式は3つの狙いを挙げている。
- 悪用への備え＝要求を大量に浴びせてサービスを止めにかかる行為を防ぐため。
- 取り分の公平＝ひとりが極端に使うと他の全員が遅くなるため、一人あたりを絞る。
- 全体の負荷の調整＝要求が一気に増えると設備が耐えられず、全体の品質が落ちるため。
どれも「誰か一人のため」ではなく「使っている全員のため」に置かれた線だ、という書き方になっている。
AI英会話のレート制限①｜数え方は1つではなく、6種類以上ある
まず、何を数えているのかを分けて見る必要がある。
公式が挙げている物差しは次のとおりである。
| 略号 | 何を数えるか | AI英会話での意味 |
|---|---|---|
| RPM | 1分あたりの要求の回数 | 1分間に何回しゃべりかけられるか |
| RPD | 1日あたりの要求の回数 | 1日に何往復できるか |
| TPM | 1分あたりの語の量 | 1分間にどれだけ長い文脈を運べるか |
| TPD | 1日あたりの語の量 | 1日にどれだけ長い会話を積めるか |
| IPM | 1分あたりの画像の枚数 | 写真を見せて話す機能の上限 |
| 音声の分数 | 1分あたりの音声の分数 | 流しっぱなしの音声モデルで使われる |
最後の音声の分数は、流しながら処理する種類の音声モデルの一部に適用されると書かれている。
AI英会話はまさにこの領域を使うので、文字だけのサービスとは物差しそのものが違う。
加えて、使うモデルごとに枠が違うことも明記されている。
どのモデルにどれだけの枠があるかの一覧は モデルのページ にまとめられている、という案内になっている。
さらに、長い文脈を扱う種類のモデルでは、長文の要求だけに別枠が設けられているとも書かれている。
同じ系統としてまとめられたモデル群が枠を共有している場合もある。
この場合、その一覧に載っているどのモデルを呼んでも、消えていくのは同じ1つの枠だ。
AI英会話のレート制限②｜枠は学習者ごとではなく、運営側の単位で決まっている
ここが誤解されやすい。
公式は、枠が決められているのは組織の単位と案件の単位であって、利用者ひとりひとりの単位ではないと書いている。
これをAI英会話に当てはめると、意味が一気に変わる。
自分が今日ほとんど使っていなくても、同じアプリを使っている他の学習者が一斉にしゃべっていれば枠は尽きうる、ということだ。
⇒ 夕方や休日に限って詰まる、という現象があるとしたら、原因は自分の側ではなくアプリ全体の混み具合にある。
そして枠そのものは固定ではない。
公式は、APIへの支払いが積み上がると段階が自動的に上がり、たいていの場合は多くのモデルで枠が広がると説明している。
段階は最も下の無料の層から、最上位の層まで用意されている。
ここでは具体的な金額には踏み込まないが、階段の形になっていること自体は 管理画面の上限のページ で確認できる、と案内されている。
なお、運営側が自分で設定できる支出の上限とは別に、組織ごとの月間の利用上限が用意されていることも書かれている。
立ち上げたばかりの小さなAI英会話サービスほど下の段にいる、という関係はこの構造から素直に出てくる。
AI英会話のレート制限③｜残りの枠は、毎回の応答に書かれて返ってくる
枠の残りは、管理画面を開かなくても分かるようになっている。
公式は、通信の応答の見出し部分に、残りの回数や残りの語の量などが載ると説明している。
載りうる項目は次のとおりだ。
| 項目 | 載っている値の例 | 読み方 |
|---|---|---|
| Retry-After | 56 | もう一度試すまでに待つべき最小の秒数 |
| x-ratelimit-limit-requests | 60 | 使い切るまでに許される要求の回数 |
| x-ratelimit-limit-tokens | 150000 | 使い切るまでに許される語の量 |
| x-ratelimit-remaining-requests | 59 | あと何回送れるか |
| x-ratelimit-remaining-tokens | 149984 | あとどれだけの語を送れるか |
| x-ratelimit-reset-requests | 1s | 回数の枠が元に戻るまでの時間 |
| x-ratelimit-reset-tokens | 6m0s | 語の枠が元に戻るまでの時間 |
案件ごとの語の枠が効いているときは、案件向けの同じ形の項目も並ぶ場合があると書かれている。
この表で注目すべきは、回数と語で元に戻るまでの時間が別々に書かれている点だ。
例として挙げられている値でも、片方は1秒、もう片方は6分と大きく開いている。
⇒ 「少し待てば直る詰まり」と「数分は戻らない詰まり」は、まったく別の枠が尽きた結果だと読める。
なお、追加学習まわりの枠についても、管理画面のほかにAPIから取り出せる道が用意されていると書かれている。
AI英会話のレート制限④｜断られ方は2種類あり、意味がまったく違う
同じ「つながらない」でも、中身は分かれている。
公式は、通信の状態を示す番号と、返ってきた誤りの符号の両方を見て区別せよと書いている。
| 状態の番号 | 誤りの符号 | 何が起きているか | すべきこと |
|---|---|---|---|
| 429 | slow_down | 送る勢いの増え方が急すぎた | 指示された時間を守り、勢いを落としてから少しずつ戻す |
| 503 | server_is_overloaded | 呼んだモデル側が一時的に混んでいる | 指示された時間を待って再試行し、続くなら間隔を広げる |
前者は自分の送り方の問題で、後者は相手側の混雑である。
公式は、この2つの返し方が以前とは変わったことも明記している。
かつては両方とも503で返していた入口があり、いまは勢いの増えすぎのほうが429へ移された、という書き方だ。
動画まわりの要求についても、以前とは異なる符号で返るようになったと説明されている。
開発ライブラリ側でも、429と503は別の例外として投げ分けられている。
公式の 各言語の公式ライブラリ では、複数の言語で「枠の誤り」と「内部の誤り」という別々の型が使われていると書かれている。
そしてAI英会話にとって重要な但し書きが1つある。
流しながら受け取る形の通信では、これらの誤りは流れが始まる前に返る、と書かれている。
流れ始めたあとの誤りは、途中の合図として届くことがある。
この場合、すでに受け取った分があるのだから、自動で丸ごと送り直してはいけないと釘が刺されている。
AI英会話のレート制限⑤｜枠の内側にいても、増やし方が急だと止められる
これはあまり知られていない線だ。
公式は、1分あたりの回数の枠にも語の量の枠にも収まっているのに、勢いの誤りが返ることがあると明記している。
この誤りが見ているのは「使い切ったかどうか」ではなく「どれだけ急に増えたか」だからである。
目安についても数字が置かれている。
入ってくる語の量が1分あたり100万に達したあたりからは、15分ごとに5割を超えて増やさないこと、という書き方だ。
ただし、この線が効き始める正確な点はモデルやそのときの混み方で変わるとも添えられている。
⇒ テレビや広告で紹介された直後のAI英会話が詰まりやすいのは、枠を使い切ったからではなく、増え方が急だからという可能性がある。
規模の大きい利用者向けには、枠をあらかじめ押さえておく仕組みも案内されている。
公式は Scale Tier と、より新しい世代向けの Reserved Tier の2つを挙げている。
ただし、こうした枠を持っていても、勢いの誤りへの向き合い方は変わらないと釘が刺されている。
待つべき時間を守り、送る量をいったん落とし、そこから少しずつ戻す。
この順番は契約の種類では免除されない、という整理になっている。
AI英会話のレート制限⑥｜待ち直し方には決められた作法がある
断られたあとの振る舞いが、次の詰まりを呼ぶかどうかを決める。
公式が示している作法は、大きく次の形にまとまる。
- 指示された秒数は「最短」として扱う＝その値ちょうどではなく、少し上乗せして待つ。
- わずかな揺らぎを足す＝複数の端末が同じ瞬間に押し寄せて、また詰まるのを避けるため。
- 指示が無いときは間隔を倍々に広げる＝失敗するたびに待ち時間を伸ばしていく。
- 回数と総時間の両方に上限を置く＝いつまでも粘らず、どこかで諦めて後回しにする。
- 二重の再試行を作らない＝ライブラリ側の自動再試行を切るか、自分の上限にその分を織り込む。
最初の倍々という考え方には、公式が3つの利点を挙げている。
落ちずに立ち直れること、最初の数回は素早く試せること、そして押し寄せる瞬間をばらけさせられることだ。
逆に、やってはいけないことも明確に書かれている。
失敗した要求も1分あたりの枠に数えられるため、間を置かずに送り続ける作りでは絶対に抜けられない。
⇒ 連打すればするほど、枠は減り続ける。
AI英会話の画面で反応が無いときに何度も送信を押しても、状況は悪くなる方向にしか動かない。
また、待ち時間の扱いは使っているライブラリの版や設定で違うとも書かれている。
示された待ち時間が自分の設定した上限を超えている場合は、上限のほうを勝手に縮めて早く送り直すのではなく、その要求自体を後回しにするのが正しいと整理されている。
そして、支払いや残高のような、待っても解決しない種類の誤りは再試行の対象にしない。
公式には実装例も載っており、外部の再試行の道具を使う書き方と、自前で書く書き方が並べられている。
さらに詳しい手順は レート制限の扱い方のノートブック にまとめられている、と案内されている。
AI英会話のレート制限⑦｜そもそも当てないための作り方が3つある
断られてから慌てるより、当たらない形に寄せるほうが効く。
1つ目は、返事の長さの上限を実情に合わせることだ。
公式は、枠の計算には「返事の長さとして指定した上限」と「送った内容の文字数から見積もった量」のうち大きいほうが使われると書いている。
つまり、実際には短い返事しか返らないのに上限だけ大きく取っていると、使ってもいない分まで枠から引かれる。
2つ目は、回数の枠と語の枠のどちらが余っているかを見て、要求のまとめ方を変えることだ。
回数のほうが先に尽きていて語の量に余裕があるなら、複数の用事を1回の要求に詰め込めば処理量を増やせる、と説明されている。
3つ目は、すぐ返す必要のない処理を別の入口へ逃がすことだ。
公式は、即時性が要らない大量の処理には まとめ処理の仕組み を使えば、その場で返す側の枠に影響を与えずに済むとしている。
AI英会話でいえば、会話そのものは即時の入口、発音の採点結果のまとめや週次のレポートはまとめ処理の入口、という分け方になる。
ただし、まとめ処理の側にも別の形の上限がある。
公式は、待ち行列に積まれている入力の語の総量で数えられ、終わった分はその数から外れると書いている。
教材を読み込ませる側にも上限があり、保管庫ごとに1分あたり300回という線が引かれていると明記されている。
大量に入れるときは、1件ずつ入れる入口ではなく、まとめて入れる入口を選ぶよう勧められている。
加えて、運営側が学習者ひとりあたりの使用量に自前の上限を置くことも、公式は勧めている。
1日・1週・1か月といった区切りで線を引き、超えた人には固い上限か人の目による確認を挟む、という整理だ。
AI英会話の「1日◯分まで」という設計は、この考え方と同じ場所から出てくる。
AI英会話のレート制限と「ただ返事が遅い」の見分け方
止まるのと遅いのは、別の話である。
枠に当たったときは、そもそも要求が断られる。
一方で、返事は返っているのに待たされるという現象は、別の要因で起きている。
OpenAI の Latency optimization は、この遅さを7つの原則に整理している。
そこでの中心は、モデルが語を処理していく速さと、作る語の数である。
同じ資料は、語を作る工程がほぼ常に最も時間のかかる部分だとしたうえで、目安を置いている。
出す語を半分に削れば、待ち時間もおよそ半分になりうる、という書き方だ。
対して、送る側の語を半分にしても、縮むのは1割にも満たない範囲だと明記されている。
⇒ AI英会話の返事が短めに設計されているのは、講師の手抜きではなく、待ち時間を削るための選択である可能性が高い。
見分けるための材料を並べると、次のようになる。
- 返事が来ない・エラーが出る＝枠か混雑。断られている側の話。
- 返事は来るが最初の音まで長い＝送った文脈の処理と、作り始めるまでの時間。
- 返事が長いほど終わるのが遅い＝作る語の数がそのまま時間になっている。
- 何往復かすると急に重くなる＝運ぶ文脈が伸び続けているか、回数の枠に近づいている。
同じ資料は、体感を縮める手として、途中から少しずつ出す作りも挙げている。
待っている時間を1秒ほどまで切り詰められる、最も効く手だという位置づけになっている。
そのほか、言語モデルを呼ばずに済ませる選択肢も挙がっている。
定型の確認文や断りの文は、あらかじめ用意しておけばよいという整理だ。
呼ぶ回数が減れば、そのぶん枠も減らない。
速さの工夫と枠の節約は、ここで同じ方向を向く。
AI英会話のレート制限｜よくある質問
Q. 自分がたくさん使ったから止められたのか。 A. そうとは限らない。公式ドキュメントは、枠が決められているのは組織と案件の単位であって利用者の単位ではないと書いている。自分の使用量とは無関係に尽きることがある。
Q. すぐもう一度話しかけてもよいのか。 A. 勧められていない。失敗した要求も1分あたりの枠に数えられると明記されているため、間を置かずに送り直すほど枠は減っていく。示された秒数を待つのが前提になっている。
Q. 短い文で話せば止まりにくいのか。 A. 語の量では有利だが、回数の枠は変わらない。公式の例でも、ごく短い要求を並べただけで回数の枠が先に尽きる場合が示されている。
Q. 有料プランにすれば止まらなくなるのか。 A. 公式が説明しているのは、支払いが積み上がると段階が上がり、多くのモデルで枠が広がるという関係までである。枠が無くなるとは書かれていない。
Q. 混雑と使いすぎは見分けられるのか。 A. 見分けられる形になっている。送る勢いが急すぎた場合と、モデル側が一時的に混んでいる場合とで、返る番号も符号も別に定められている。
まとめ｜AI英会話のレート制限は「回数・量・増やす速さ」の3本で決まる
要点だけを並べ直す。
- 線は複数あり、先に触れたほうで止まる。短い往復を重ねる使い方は回数の線に当たりやすい。
- 枠は組織と案件の単位で決まる。自分が使っていなくても、混んでいれば尽きる。
- 残りは応答の見出し部分に毎回載る。回数と語では、元に戻るまでの時間も別に書かれている。
- 断られ方は2種類。送る勢いが急すぎた場合と、モデル側が混んでいる場合とで符号が分かれている。
- 抜け方の作法は待つ・ばらす・諦める。失敗した分も枠に数えられるので、連打は必ず裏目に出る。
⇒ AI英会話が止まったときに見るべきは、自分の英語ではなく「どの線に当たったのか」である。
回数なのか、量なのか、増え方なのか。
この3つで切り分ければ、待てば直るのか、使い方を変えるべきなのかの判断がつく。
回数や量ではなく、つなぎっぱなしの時間で止まる仕組みを知りたい人向けの記事です。
60分の上限まで分解した記事
接続が切れる条件と60分の上限が分かります。
※本記事の一次ソースはすべて2026-09-20に各公式ドキュメントで確認した。
仕様は更新されるため、最新は各公式ドキュメントで確認してほしい。
Comments