라우팅 설정
라우팅 설정
여러 배포 엔드포인트에 요청을 분배하는 방식을 설정합니다.
여러 배포 엔드포인트에 요청을 분산할 방식을 선택합니다.
목록에서 배포 대상을 무작위로 선택합니다. 간단하고 빠른 방식입니다.
태그 기반 라우팅 사용요청에 포함된 태그에 따라 적합한 엔드포인트로 요청을 전달합니다.
안정성 및 재시도
요청 실패 시 재시도 및 장애 처리 기준을 설정합니다.
엔드포인트를 쿨다운 상태로 전환하기 전에 허용할 실패 횟수입니다.
실패한 엔드포인트를 요청 대상에서 일시적으로 제외할 시간입니다.
요청 실패 시 동일 요청을 다시 시도할 최대 횟수입니다.
모델 응답을 기다리는 최대 시간입니다.
실패한 요청을 다시 시도하기 전까지 기다리는 최소 시간입니다.
여러 모델 그룹을 하나의 별칭으로 연결합니다.
장애 발생 시 설정된 가중치에 따라 대체 엔드포인트를 선택합니다.
서버 설정 파일에서만 실제로 바뀝니다. 이 화면에서는 저장되지 않습니다.