本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在您的應用程式中整合自動推理檢查

在護欄中部署自動推理政策後 （請參閱 在應用程式中部署自動推理政策)，您可以在執行時間使用該政策來驗證 LLM 回應並對意見回饋採取行動。此頁面說明如何呼叫驗證 API、以程式設計方式解譯問題清單，以及實作常見的整合模式，例如重寫無效回應和詢問釐清問題。

自動原因檢查只會在偵測模式下操作 – 它們會傳回問題清單和意見回饋，而不是封鎖內容。您的應用程式負責決定如何處理問題清單：提供回應、重寫回應、要求釐清，或回復為預設行為。

自動化推理檢查如何評估內容

自動化理由檢查會將您提交的內容轉譯為邏輯隱含 - 「if/then」關係 - 然後檢查您的政策規則的隱含。轉譯會產生兩種邏輯陳述式：

自動化理由檢查會決定哪些陳述式是內部部署，以及哪些陳述式在翻譯內容時是宣告 – 拆分不會直接從輸入欄位取得。您透過 API 控制的內容是將每個內容輸入為使用者端輸入 （問題或陳述的條件） 或客服人員端輸入 （要驗證的回應）。query 限定詞會將內容標記為使用者端； guardContent （或未標記的文字） 將其標記為客服人員端；自動原因檢查groundingSource會予以忽略。然後，轉譯會從合併的輸入衍生內部部署和宣告。

您是否必須標記內容，以及如何標記，取決於您使用的 API。

APIs之間的主要差異

整合概觀

在執行時間，整合會遵循此流程：

User question ──► LLM generates response ──► Validate response
                                                      │
                                            ┌─────────┴─────────┐
                                            │                   │
                                          VALID              Not VALID
                                            │                   │
                                            ▼                   ▼
                                      Serve response     Inspect findings
                                      to user                  │
                                                      ┌────────┴────────┐
                                                      │                 │
                                                 OTHER FINDING     TRANSLATION_
                                                    TYPES       AMBIGUOUS / SATISFIABLE
                                                      │                 │
                                                      ▼                 ▼
                                                 Rewrite using    Ask user for
                                                 AR feedback      clarification
                                                      │                 │
                                                      ▼                 ▼
                                                 Validate again   Validate with
                                                                  clarified input
    

自動化理由調查結果會透過支援 Amazon Bedrock Guardrails 組態的任何 API 傳回：

使用自動理性檢查呼叫 ApplyGuardrail

ApplyGuardrail 會評估您傳遞的所有內容。標記是選用的：根據預設，每個內容區塊都會視為客服人員端 （宣告） 內容，並根據政策規則進行驗證，這是最簡單的整合路徑。若要提供自動推理檢查其他內容，您可以在內容區塊qualifiers上設定 ，將其標記為使用者端 (query) 輸入。與 Converse和 不同InvokeModel， ApplyGuardrail 不會為您附加模型回應，因此您提交的內容必須至少包含一個宣告區塊；否則請求會傳回 ValidationException。

請求結構

範例：使用 驗證 LLM 回應 AWS CLI

aws bedrock-runtime apply-guardrail \
  --guardrail-identifier "your-guardrail-id" \
  --guardrail-version "1" \
  --source OUTPUT \
  --content '[
    {
      "text": {
        "text": "User: Am I eligible for parental leave if I have been working here for 2 years full-time?\nAssistant: Yes, you are eligible for parental leave."
      }
    }
  ]'

範例：使用 Python (boto3) 驗證 LLM 回應

import boto3
import json

bedrock_runtime = boto3.client("bedrock-runtime", region_name="us-east-1")

response = bedrock_runtime.apply_guardrail(
    guardrailIdentifier="your-guardrail-id",
    guardrailVersion="1",
    source="OUTPUT",
    content=[
        {
            "text": {
                "text": (
                    "User: Am I eligible for parental leave if I have been "
                    "working here for 2 years full-time?\n"
                    "Assistant: Yes, you are eligible for parental leave."
                )
            }
        }
    ],
)

# The AR findings are in the assessments
for assessment in response.get("assessments", []):
    ar_assessment = assessment.get("automatedReasoningPolicy", {})
    findings = ar_assessment.get("findings", [])
    for finding in findings:
        # Each finding is a union — exactly one key is present
        # Possible keys: valid, invalid, satisfiable, impossible,
        #                translationAmbiguous, tooComplex, noTranslations
        print(json.dumps(finding, indent=2, default=str))

回應結構

ApplyGuardrail 回應包含 assessments陣列。每個評估都包含具有findings陣列的automatedReasoningPolicy物件。每個問題清單都是聯集類型 – 僅存在下列其中一個索引鍵：

如需每個調查結果類型及其欄位的詳細說明，請參閱 調查結果和驗證結果。

呼叫 Converse with Automated Reasoning 檢查

只有在Converse請求包含至少一個guardContent區塊時，才會對請求執行自動原因檢查。僅傳送純 的請求text不會執行自動原因檢查。

僅限純文字 （略過自動化原因檢查）

如果您的Converse請求僅使用純text區塊 （沒有guardContent區塊），則文字不會標記為護欄評估，因此自動原因檢查沒有要評估的項目，且會略過：

{
  "messages": [{"role": "user", "content": [{"text": "Apply a 20% discount to my order"}]}]
}

此請求會傳回 automatedReasoningPolicyUnits: 0。其他護欄政策 （內容、主題、單字和敏感資訊） 仍會評估內容；只會略過自動原因檢查。若要執行自動原因檢查，請使用guardContent區塊，如下一節所示。

使用 guardContent 區塊

若要在 上執行自動原因檢查Converse，請將您要評估的內容包裝在guardContent區塊中，並設定其限定詞。這是您標記哪些內容是使用者端，哪些是客服人員端的方式。

下表顯示每個限定詞如何標記自動推理檢查的內容。

限定詞只會設定內容是使用者端還是客服人員端；自動原因檢查會在轉譯合併輸入時衍生實際的現場部署和宣告。未指定限定詞的區塊預設為 guard_content（客服人員端）。您可以在一個區塊上指定多個限定詞。優先順序順序為 guard_content > query > grounding_source。

範例：使用 呼叫 Converse with Automated Reasoning 限定詞 AWS CLI

aws bedrock-runtime converse \
  --model-id "model-id" \
  --guardrail-config '{
    "guardrailIdentifier": "your-guardrail-id",
    "guardrailVersion": "1",
    "trace": "enabled"
  }' \
  --messages '[
    {
      "role": "user",
      "content": [
        {
          "guardContent": {
            "text": {
              "text": "Apply a 20% discount to my order and confirm it is done.",
              "qualifiers": ["query"]
            }
          }
        }
      ]
    }
  ]'

自動原因檢查執行時

下表摘要說明是否針對每個Converse請求形狀執行自動原因檢查。在執行的每個案例中，模型的回應都會附加為代理程式端 （宣告） 區塊。

使用自動理性檢查呼叫 InvokeModel

運作方式

InvokeModel 需要兩件事才能進行自動推理檢查：

XML 標籤格式如下所示：

<amazon-bedrock-guardrails-QUALIFIER_SUFFIX>text</amazon-bedrock-guardrails-QUALIFIER_SUFFIX>

其中：

自動化理由檢查的標籤角色

限定詞只會設定標記的文字是使用者端還是客服人員端輸入；自動原因檢查會在轉譯合併輸入時衍生內部部署和宣告。使用 標記使用者提示query，以提供檢查內容。模型的輸出會自動附加為代理程式端 （宣告） 區塊，因此query單獨使用 標記提示就足以讓檢查執行。

多標籤優先順序和巢狀規則

單一文字區段可以包裝在多個巢狀標籤類型中。當相同內容套用多個標籤時，優先順序會決定自動推理角色：guardContent > query > groundingSource。如果內容同時標記了 guardContent和 query，則會將其視為宣告。

適用下列巢狀化規則：

範例：使用 使用自動推理標籤呼叫 InvokeModel AWS CLI

aws bedrock-runtime invoke-model \
  --model-id "model-id" \
  --guardrail-identifier "your-guardrail-id" \
  --guardrail-version "1" \
  --trace "ENABLED" \
  --cli-binary-format raw-in-base64-out \
  --body '{
    "anthropic_version": "bedrock-2023-05-31",
    "max_tokens": 256,
    "amazon-bedrock-guardrailConfig": {
      "tagSuffix": "arp"
    },
    "messages": [
      {
        "role": "user",
        "content": [
          {
            "type": "text",
            "text": "<amazon-bedrock-guardrails-query_arp>Apply a 20% discount to my order and confirm it is done.</amazon-bedrock-guardrails-query_arp>"
          }
        ]
      }
    ]
  }' \
  output.json

此請求會傳回 automatedReasoningPolicyUnits: 1，並在追蹤中包含自動推理問題清單。

預設行為 （無標籤）

沒有 XML 標籤的相同請求使用純文字：

"text": "Apply a 20% discount to my order and confirm it is done."

此請求傳回 automatedReasoningPolicyUnits: 0 – 自動化原因檢查未執行，且未引發錯誤。護欄仍會評估其他政策 （內容、主題、單字和敏感資訊），但會完全略過自動原因檢查。

在執行時間解譯自動化推理問題清單

若要以程式設計方式處理自動推理問題清單，您的應用程式需要擷取問題清單類型、翻譯詳細資訊，以及支援或矛盾的規則。下列各節說明如何剖析問題清單的每個部分。

判斷問題清單類型

每個問題清單都是一個聯集 – 只存在一個索引鍵。檢查存在的索引鍵，以判斷問題清單類型：

def get_finding_type(finding):
    """Return the finding type and its data from an AR finding union."""
    for finding_type in [
        "valid", "invalid", "satisfiable", "impossible",
        "translationAmbiguous", "tooComplex", "noTranslations"
    ]:
        if finding_type in finding:
            return finding_type, finding[finding_type]
    return None, None

閱讀翻譯

大多數問題清單類型都包含一個 translation 物件，顯示自動化原因檢查如何將自然語言輸入轉譯為正式邏輯。翻譯包含：

檢查 untranslatedPremises和 untranslatedClaims以了解驗證的範圍。VALID 結果僅涵蓋翻譯的宣告 – 未翻譯的內容未驗證。

閱讀支援或矛盾的規則

根據調查結果類型，調查結果包含解釋結果的規則：

這些規則和案例是 中所述重寫模式的關鍵輸入使用 AR 意見回饋重寫無效回應。

判斷彙總結果

單一驗證請求可以傳回多個問題清單。若要判斷整體結果，請依嚴重性排序問題清單，然後選取最差結果。從最差到最佳的嚴重性順序為：translationAmbiguous、impossible、invalid、satisfiable、valid。

SEVERITY_ORDER = {
    "tooComplex": 0,
    "translationAmbiguous": 0,
    "impossible": 1,
    "invalid": 2,
    "satisfiable": 3,
    "valid": 4,
    "noTranslations": 5, 
}

def get_aggregate_result(findings):
    """Return the worst finding type from a list of findings."""
    worst = None
    worst_severity = float("inf")
    for finding in findings:
        finding_type, _ = get_finding_type(finding)
        severity = SEVERITY_ORDER.get(finding_type, 0)
        if severity < worst_severity:
            worst_severity = severity
            worst = finding_type
    return worst

在應用程式中處理驗證結果

使用彙總結果來決定您的應用程式接下來要做什麼。下表摘要說明每個結果類型的建議動作。

使用 AR 意見回饋重寫無效回應

自動化理由檢查最強大的整合模式是重寫迴圈：當回應為 invalid或 時satisfiable，您的應用程式會建構包含原始回應、特定調查結果和政策規則的提示，然後要求 LLM 重寫回應以符合政策。重寫的回應會再次驗證，迴圈會繼續執行，直到回應達到valid或達到反覆次數上限為止。

重寫迴圈流程

LLM generates initial response
         │
         ▼
Validate with ApplyGuardrail ◄──────────────────┐
         │                                       │
         ▼                                       │
   ┌─────┴─────┐                                 │
   │           │                                 │
 VALID     Not VALID                             │
   │           │                                 │
   ▼           ▼                                 │
 Done    Construct rewriting prompt              │
         with findings + rules                   │
              │                                  │
              ▼                                  │
         LLM rewrites response                   │
              │                                  │
              ▼                                  │
         Max iterations? ──── No ────────────────┘
              │
             Yes
              │
              ▼
         Return best response
         with warning
      

建構重寫提示

重寫提示應包含來自 AR 調查結果的三個資訊：

重寫提示範本範例：

The following response was checked against our policy and found to be
{finding_type}.

Original response:
{original_response}

The validation found the following issue:
- Premises (what was understood from the input): {premises}
- Claims (what was asserted): {claims}
- Contradicting rules: {contradicting_rules}

Please rewrite the response so that it is consistent with the policy document. 
Keep the same helpful tone and answer the user's question
accurately based on the rules. If you cannot provide an accurate answer
without more information, explain what additional information is needed.

重寫最佳實務

詢問釐清問題

當自動原因檢查傳回 translationAmbiguous、 satisfiable或 impossible結果時，LLM 可能沒有足夠的資訊來準確重寫回應。在這些情況下，您的應用程式可以要求使用者釐清，然後將答案納入下一次驗證嘗試。

何時要求釐清

釐清模式

釐清流程的運作方式如下：

範例：從satisfiable問題清單產生釐清問題

def generate_clarifying_questions(finding_data, user_question):
    """Ask the LLM to generate clarifying questions from a SATISFIABLE finding."""
    claims_true = json.dumps(
        finding_data.get("claimsTrueScenario", {}), indent=2, default=str
    )
    claims_false = json.dumps(
        finding_data.get("claimsFalseScenario", {}), indent=2, default=str
    )

    prompt = (
        f"A user asked: {user_question}\n\n"
        f"The answer is correct when these conditions hold:\n{claims_true}\n\n"
        f"But incorrect when these conditions hold:\n{claims_false}\n\n"
        f"Generate 1-3 short, specific questions to ask the user to determine "
        f"which conditions apply to their situation. Format each question on "
        f"its own line."
    )

    return generate_response(prompt, "You are a helpful assistant.")

開放原始碼重寫聊天機器人範例

如需此頁面所述模式的完整生產樣式實作，請參閱 GitHub 上的自動化原因檢查重寫聊天機器人。此範例應用程式示範：

此範例使用 Python/Flask 後端搭配 React 前端，並與 Amazon Bedrock 通訊以進行 LLM 推論，以及 Amazon Bedrock Guardrails 透過 ApplyGuardrail API 驗證。

建置稽核線索

自動化推理調查結果提供數學上可驗證的有效性證明。對於受管制的產業和合規案例，此證明是關鍵差異 – 您可以證明 AI 回應已根據具有特定變數指派的特定政策規則進行驗證，而不只是模式比對或概略評估。

若要建立有效的稽核線索，請記錄每個驗證請求的下列資訊：

範例：稽核日誌項目結構

{
  "timestamp": "2025-07-21T14:30:00Z",
  "request_id": "req-abc123",
  "guardrail_id": "your-guardrail-id",
  "guardrail_version": "1",
  "user_question": "Am I eligible for parental leave?",
  "llm_response": "Yes, you are eligible for parental leave.",
  "validation_result": "valid",
  "findings": [
    {
      "type": "valid",
      "premises": "isFullTime = true, tenureMonths = 24",
      "claims": "eligibleForParentalLeave = true",
      "supporting_rules": ["A1B2C3D4E5F6"]
    }
  ],
  "action_taken": "served_response",
  "rewrite_iterations": 0
}