View a markdown version of this page

Crédit de secours pour les demandes refusées (version bêta) - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Crédit de secours pour les demandes refusées (version bêta)

Lorsque Claude Fable 5 refuse une demande, les clients qui réessayent la même conversation sur un autre modèle (par exemple, Claude Opus 4.8) remboursent normalement les frais d'écriture en cache pour le préfixe de conversation déjà mis en cache sur Fable 5. Le crédit de remplacement élimine cette double facturation en émettant un jeton de crédit unique en cas de refus, qui peut être utilisé lors d'une nouvelle tentative.

Cette fonctionnalité nécessite l'affichage de l'indicateur bêta fallback-credit-2026-06-09 dans le anthropic_beta tableau à la fois lors de la demande initiale et lors de la nouvelle tentative.

Modèles pris en charge

Rôle Modèle
Source (émet un crédit en cas de refus) Claude Fable 5
Cible (échange du crédit lors d'une nouvelle tentative) Doit être une cible de repli valide du modèle source

Comment ça marche

Étape 1 : Recevez un jeton de crédit de secours en cas de refus

Lorsqu'une requête adressée à Claude Fable 5 est renvoyée stop_reason: "refusal" et que le drapeau bêta est présent, l'stop_detailsobjet inclut : fallback_credit_token

{ "id": "msg_...", "type": "message", "role": "assistant", "model": "anthropic.claude-fable-5", "content": [], "stop_reason": "refusal", "stop_details": { "type": "refusal", "category": "cyber", "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.", "fallback_credit_token": "<opaque token>" }, "usage": { "input_tokens": 106, "output_tokens": 1 } }

fallback_credit_tokenIl s'agit d'une chaîne opaque. Cela se produit null lorsque les conditions initiales ne sont pas remplies (aucun cache n'a été lu lors de la demande d'origine, le modèle n'est pas éligible au crédit ou le drapeau bêta est absent). Server-side les échecs de frappe produisentnull, jamais une erreur.

En mode streaming, le jeton est délivré lors de l'message_deltaévénement finalstop_details.

Étape 2 : utilisez le jeton lors d'une nouvelle demande d'essai

Passez le jeton en tant que paramètre de premier niveau lors de la nouvelle tentative au modèle de secours :

{ "anthropic_version": "bedrock-2023-05-31", "anthropic_beta": ["fallback-credit-2026-06-09"], "model": "anthropic.claude-opus-4-8", "max_tokens": 4096, "system": "...", "messages": [...], "tools": [...], "fallback_credit_token": "<token from the refusal's stop_details>" }

Règles de remboursement

Règle Exigence
Fenêtre horaire Le jeton doit être utilisé dans les 5 minutes suivant son émission.
Reliure à plateforme Un jeton frappé ne bedrock-mantle peut être utilisé que sur. bedrock-mantle
Body Match Les tools champs systemmessages, et doivent correspondre exactement à la demande refusée. Envoyez-les tels quels ; ne supprimez pas les blocages de pensée.
Réessayez les formes Le corps de la nouvelle tentative doit soit (a) correspondre exactement à la demande refusée (le modèle de secours régénère la réponse), soit (b) le faire correspondre à un message d'assistant ajouté contenant le résultat partiel de la réponse refusée (le modèle de secours continue à partir de l'endroit où Fable 5 a été interrompu).
Modèle cible Il doit s'agir d'une cible de repli valide pour le modèle refusé.

Gestion des erreurs

Lorsque le drapeau bêta est présent, tout échec de validation du remboursement renvoie un400 invalid_request_error. Dans tous les cas, le chemin de restauration consiste à réessayer sansfallback_credit_token. Les conditions de défaillance incluent :

  • Jeton mal formé ou méconnaissable

  • Jeton datant de plus de 5 minutes

  • Le corps de la demande ne correspond pas à la demande initialement refusée

  • Le modèle cible n'est pas une cible de secours valide

  • Le jeton a déjà été utilisé

Sans l'indicateur bêta, fallback_credit_token il est rejeté en tant que champ inconnu (400). Le paramètre est également rejeté lors des count_tokens demandes.

Impact sur la facturation

Lorsqu'un jeton de crédit de secours est utilisé avec succès, la demande de nouvelle tentative reçoit un crédit pour les jetons d'écriture en cache qui se chevauchent avec le préfixe mis en cache de la demande refusée. Le client ne paie que pour les nouveaux jetons nets lors de la nouvelle tentative, et non pour la mise en cache du préfixe de conversation.

Exemple de flux de travail

  1. Envoyez une demande à Claude Fable 5 avecanthropic_beta: ["fallback-credit-2026-06-09"].

  2. Recevez un refus accompagné d'un numéro fallback_credit_token d'entréestop_details.

  3. Réessayez immédiatement de passer à la version Claude Opus 4.8 avec le même et system messagestools, plus lefallback_credit_token.

  4. La nouvelle tentative est facturée à des taux réduits pour le préfixe mis en cache qui se chevauche.

Si le jeton est null expiré ou non valide, réessayez normalement sans lui. Le crédit est une optimisation des coûts et non une exigence fonctionnelle pour que la nouvelle tentative réussisse.