non-determinism

LLM 출력 분산: 단일 타겟 재시도가 효과적일 때

동일한 입력에 대해 LLM 출력의 45%가 변경되었습니다. 이러한 편차를 재시도 예산을 소모하지 않고 품질을 복구하는 원샷 재시도로 전환하는 방법을 소개합니다.