API 요청 한도 계획하기
API 요청 한도를 방식, 초과 시 응답, 안내 방법까지 포함해 계획하는 프롬프트. 원하는 AI 도구에 붙여 넣으면 AI가 요청 한도를 계획하는.
결과는 도구, 모델, 입력한 내용에 따라 달라집니다.
결과 미리보기
예시: 저희 편집팀이 쓴 것으로, 실제 AI 출력이 아닙니다.
API 키별로 제한(협력사는 고정 키를 쓰고 IP 주소는 바뀌기 때문). 한도 – 읽기: 분당 600건 – 쓰기: 분당 120건 – 검색: 분당 60건 방식: 토큰 버킷, 짧은 몰림을 허용. 단점: 요청마다 계산이 조금 늘어남. 초과 시: 429, 헤더 RateLimit-Remaining과 Retry-After, 메시지 "요청이 너무 많습니다. 20초 뒤에 다시 시도해 주세요." 가정: 초당 400건의 최대치는 최소 열 개 협력사에 나뉘어 있음.
채워 넣기
입력한 내용은 이 브라우저 창 안에만 머뭅니다. 저희는 아무것도 저장하거나 전송하지 않습니다.
- 주문용 공개 REST API
- 자사 앱용 내부 API
- 무거운 쿼리가 있는 검색 API
- 웹훅 수신 엔드포인트
- AI 서비스 앞단의 API
- 전용 키가 있는 협력사
- 자사 앱만
- 세 가지 요금제의 유료 고객
- 로그인 없는 공개 사용
- 내부 서비스
- 평균 초당 50건, 최대 400건
- 일부 계정이 분당 수천 건을 보냄
- 아직 수치 없음, 3주 뒤 출시
- 월요일 아침에 부하가 크게 오름
- 검색 때문에 데이터베이스가 느려짐
내 프롬프트
프롬프트를 직접 수정했습니다. 위 입력란을 바꿔도 더 이상 덮어쓰지 않습니다.
이것은 AI에게 주는 지시문이며, 아직 결과물이 아닙니다.
이 프롬프트가 잘 맞는 도구
이 프롬프트에 잘 맞는 AI 도구:
사용 방법
- 항목을 채우거나 추천 문구를 누르세요. 이름, 주소 같은 개인 정보는 넣지 마세요.
- 완성된 프롬프트를 원하는 AI 도구에 붙여 넣으세요.
- 먼저 초과만 기록하고 아무것도 막지 않는 관찰 모드로 한도를 켜 본 뒤 값을 조정하세요.
왜 효과가 있을까요?
'무엇을 기준으로', '얼마나', '넘으면 어떻게'의 순서로 정하면 그럴듯하지만 엉뚱한 대상을 막는 한도를 피할 수 있습니다. 헤더와 분명한 오류 메시지가 있으면 호출하는 쪽이 무작정 다시 보내지 않고 대응할 수 있습니다.
팁
- 검색이나 내보내기처럼 무거운 엔드포인트에는 보통 단순 조회보다 낮은 별도 한도가 필요합니다.