View a markdown version of this page

거부된 요청에 대한 폴백 크레딧(베타) - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

거부된 요청에 대한 폴백 크레딧(베타)

Claude Fable 5가 요청을 거부하면 다른 모델(예: Claude Opus 4.8)에서 동일한 대화를 재시도하는 고객은 일반적으로 Fable 5에 이미 캐시된 대화 접두사에 대해 캐시 쓰기 요금을 다시 지불합니다. 폴백 크레딧은 거부 시 재시도 시 사용할 수 있는 일회성 크레딧 토큰을 발급하여이 이중 요금을 제거합니다.

이 기능을 사용하려면 원래 요청과 재시도 모두에서 fallback-credit-2026-06-09 anthropic_beta 배열에 베타 플래그가 있어야 합니다.

지원되는 모델

역할 모델
소스(거부 시 크레딧 발행) Claude Fable 5
대상(재시도 시 크레딧 사용) 소스 모델의 유효한 대체 대상이어야 합니다.

작동 방식

1단계: 거부 시 폴백 크레딧 토큰 수신

Claude Fable 5에 대한 요청이 반환stop_reason: "refusal"되고 베타 플래그가 있는 경우 stop_details 객체에는 fallback_credit_token가 포함됩니다.

{ "id": "msg_...", "type": "message", "role": "assistant", "model": "anthropic.claude-fable-5", "content": [], "stop_reason": "refusal", "stop_details": { "type": "refusal", "category": "cyber", "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.", "fallback_credit_token": "<opaque token>" }, "usage": { "input_tokens": 106, "output_tokens": 1 } }

fallback_credit_token는 불투명한 문자열입니다. 민트 조건이 충족되지 않는 null 경우(원래 요청에서 캐시를 읽지 않았거나, 모델이 크레딧 자격이 없거나, 베타 플래그가 없는 경우)입니다. 서버 측 마이닝 실패는 오류가 null아니라를 생성합니다.

스트리밍 모드에서 토큰은 최종 message_delta 이벤트의에 전달됩니다stop_details.

2단계: 재시도 요청에 토큰 사용

재시도 시 토큰을 최상위 파라미터로 대체 모델에 전달합니다.

{ "anthropic_version": "bedrock-2023-05-31", "anthropic_beta": ["fallback-credit-2026-06-09"], "model": "anthropic.claude-opus-4-8", "max_tokens": 4096, "system": "...", "messages": [...], "tools": [...], "fallback_credit_token": "<token from the refusal's stop_details>" }

사용 규칙

규칙 요구 사항
기간 토큰은 발급 후 5분 이내에 사용해야 합니다.
플랫폼 바인딩 에서 민팅된 토큰은 에서만 사용할 bedrock-mantle 수 있습니다bedrock-mantle.
본문 일치 system, messagestools 필드는 거부된 요청과 정확히 일치해야 합니다. 생각 블록을 제거하지 말고 있는 그대로 전송합니다.
셰이프 재시도 재시도 본문은 (a) 거부된 요청과 정확히 일치하거나(폴백 모델이 응답을 재생성) (b) 거부된 응답의 부분 출력이 포함된 추가 어시스턴트 메시지 하나와 일치해야 합니다(폴백 모델은 Fable 5가 중단된 시점부터 계속됨).
대상 모델 거부된 모델의 유효한 대체 대상이어야 합니다.

오류 처리

베타 플래그가 있는 경우 모든 사용 검증 실패는를 반환합니다400 invalid_request_error. 모든 경우에 복구 경로는 없이 재시도하는 것입니다fallback_credit_token. 실패 조건은 다음과 같습니다.

  • 형식이 잘못되었거나 인식할 수 없는 토큰

  • 5분보다 오래된 토큰

  • 요청 본문이 원래 거부된 요청과 일치하지 않음

  • 대상 모델이 유효한 대체 대상이 아님

  • 토큰이 이미 사용됨

베타 플래그가 없으면 fallback_credit_token가 알 수 없음 필드(400)로 거부됩니다. 파라미터는 count_tokens 요청에 대해서도 거부됩니다.

결제 영향

폴백 크레딧 토큰이 성공적으로 사용되면 재시도 요청은 거부된 요청의 캐시된 접두사와 겹치는 캐시 쓰기 토큰에 대한 크레딧을 받습니다. 고객은 재시도 시 net-new 토큰에 대해서만 비용을 지불하고 대화 접두사를 다시 캐싱하기 위한 비용은 지불하지 않습니다.

워크플로 예제

  1. 를 사용하여 Claude Fable 5에 요청을 보냅니다anthropic_beta: ["fallback-credit-2026-06-09"].

  2. 에서를 사용하여 거부를 수신fallback_credit_token합니다stop_details.

  3. 동일한 Claude Opus system, 및 messages와를 사용하여 4.8로 즉시 재시도tools합니다fallback_credit_token.

  4. 재시도는 중복 캐시된 접두사에 대해 할인된 요금으로 청구됩니다.

토큰이 null이거나 만료되었거나 유효하지 않은 경우 토큰 없이 정상적으로 재시도합니다. 크레딧은 비용 최적화이며 재시도가 성공하기 위한 기능적 요구 사항이 아닙니다.