이제 알고 고칠게요!

export async function generateContent(req: GenerateRequest): Promise<GenerateResponse> {
  const url = `${getApiUrl()}/generate`;
  const response = await fetch(url, {
    method: "POST",
    headers: {
      "Content-Type": "application/json",
    },
    body: JSON.stringify(req),
  });
    

AbortController는 이미 보낸 요청을 도중에 취소하는 브라우저 기능입니다. 지금은 요청을 보내 놓고 응답이 올 때까지 무한정 기다리는 구조라, 응답이 영영 안 오면 화면도 영영 안 끝납니다.

try:
    resp = self.client.chat.completions.create(
        model=self.model, messages=msg,
        response_format={"type": "json_object"})
except Exception:
    # 일부 모델은 response_format을 거부한다 - 없이 재시도.
    resp = self.client.chat.completions.create(model=self.model, messages=msg)
    

재시도는 "다시 하면 될 것 같은 실패"에만 쓰는 것입니다. 키가 없거나 한도를 넘긴 실패는 다시 해도 결과가 같고, 유료 호출이라면 돈만 두 번 나갑니다.