호출 제한 429 rate limit — 기다릴지 멈출지 가르는 순서

import os
import random
import time

from openai import OpenAI, RateLimitError

client = OpenAI(
    max_retries=0,  # SDK 기본 재시도(2번)를 꺼서 아래 루프와 곱해지지 않게
    # base_url="https://oneport.kr/v1",  # 원포트 키로 부를 때만. OpenAI 를 바로 부르면 이 줄은 지워요
)
MODEL = os.environ["MODEL"]  # 쓰는 모델 이름은 환경변수로

# 다시 보내도 안 풀리는 429 — 지출·사용 상한, 잔액, 키·그룹 몫
STOP_CODES = {
    "credit_balance_exhausted",
    "organization_spend_limit_exceeded",
    "project_spend_limit_exceeded",
    "organization_usage_limit_exceeded",
    "insufficient_quota",  # 결제 쪽 오류의 type 으로 남아 있을 수 있는 이름
    "enforced_spend_limit_reached",  # Anthropic 등급 지출 상한(details.error_code)
    "key_limit_exceeded",  # 원포트 키 몫
    "group_limit_exceeded",  # 원포트 그룹 몫
}


def error_names(err):
    names = {getattr(err, "code", None), getattr(err, "type", None)}
    body = err.body if isinstance(err.body, dict) else {}
    if isinstance(body.get("error"), dict):
        body = body["error"]
    names.update([body.get("type"), body.get("code")])
    details = body.get("details")
    if isinstance(details, dict):
        names.add(details.get("error_code"))
    return {name for name in names if name}


def retry_after_seconds(err):
    value = err.response.headers.get("retry-after", "")
    try:
        return max(0.0, float(value))
    except ValueError:
        return 0.0  # 없거나 날짜 형식이면 숫자로 읽지 않아요


MAX_SERVER_WAIT = 60  # 이보다 긴 Retry-After 는 기다리지 않고 미뤄요


def create_with_retry(messages, max_attempts=4):  # 첫 호출 포함 4번 — 다시 보내며 쉬는 시간은 모두 합쳐 약 3분 안
    for attempt in range(max_attempts):
        try:
            return client.chat.completions.create(model=MODEL, messages=messages)
        except RateLimitError as err:
            if error_names(err) & STOP_CODES:
                raise  # 한도·잔액 — 기다려도 안 풀려요
            if attempt == max_attempts - 1:
                raise
            server_wait = retry_after_seconds(err)
            if server_wait > MAX_SERVER_WAIT:
                raise  # 너무 오래 기다리라는 뜻 — 작업을 미뤄요
            backoff = min(32, 0.5 * 2 ** attempt)
            wait = max(server_wait, backoff)
            time.sleep(wait + random.uniform(0, 1))  # 지터는 더하기만 — Retry-After 보다 짧아지지 않게