APIのレート制限を計画する
APIへのリクエスト上限を、方式、超過時の応答、告知の仕方まで含めて計画するプロンプト。お好きなAIツールに貼り付けると、AIがレート制限を計画する。
- テーマ
- アプリ・プロトタイプ
- 種類
- プロンプト
- レベル
- 中級
- 所要時間
- 約8分
結果はツール、モデル、入力内容によって変わります。
結果のプレビュー
例:当サイトの編集部が書いたもので、実際のAIの出力ではありません。
APIキーごとに制限(提携企業は固定のキーを使い、IPアドレスは変わるため)。 上限 – 読み取り:毎分600リクエスト – 書き込み:毎分120リクエスト – 検索:毎分60リクエスト 方式:トークンバケット。短い集中を許容できる。欠点:リクエストごとの計算が少し増える。 超過時:429、ヘッダー RateLimit-Remaining と Retry-After、メッセージ「リクエストが多すぎます。20秒後にもう一度お試しください。」 前提:毎秒400のピークは少なくとも10社に分散している。
入力する
入力した内容はこのブラウザ画面の中だけにとどまります。当サイトが保存・送信することはありません。
- 注文用の公開REST API
- 自社アプリ用の社内API
- 重い検索クエリのある検索API
- Webhookの受信口
- AIサービスの前に置くAPI
- 専用キーを持つ提携企業
- 自社アプリのみ
- 3つの料金プランの有料顧客
- ログイン不要の一般公開
- 社内サービス
- 平均で毎秒50リクエスト、ピーク時は400
- 一部のアカウントが毎分数千リクエストを送る
- まだ数字はなく、3週間後に公開
- 月曜の朝に負荷が大きく上がる
- 検索がデータベースを遅くしている
あなたのプロンプト
プロンプトを編集しました。上の入力欄を変えても、もう上書きされません。
これはAIへの指示文で、まだ完成品ではありません。
このプロンプトが使えるツール
このプロンプトに向いているAIツール:
使い方
- 項目を入力するか、候補をタップします。氏名、住所などの個人情報は入れません。
- 完成したプロンプトをお好きなAIツールに貼り付けます。
- まず上限を観察モードだけで有効にし、超過を記録するだけで何もブロックしない状態で様子を見てから調整してください。
なぜうまくいくのか
「何を単位に」から「どれだけ」、「超えたらどうなるか」の順に考えることで、もっともらしく見えても違う相手に当たる上限を避けられます。ヘッダーと明確なエラーメッセージがあれば、呼び出し側はただ再送するのではなく対応できます。
ヒント
- 検索やエクスポートなどの重いエンドポイントには、単純な読み取りより低い専用の上限が必要なことが多いです。