系統設定

Generation

基本設定

Bedrock Model Region模型服務區域

支援 Bedrock 的區域，例如 us-east-1、ap-northeast-1、eu-west-1

Access Key IDAWS 存取金鑰 ID

Secret Access KeyAWS 秘密存取金鑰

Session Token臨時憑證 Token（選填）

使用 IAM Role 假冒（AssumeRole）時填入；一般 IAM User 留空

模型 IDBedrock Model ID

支援 Converse API 的模型，例如 anthropic.claude-*、meta.llama*、amazon.titan-*

取樣參數模式Claude 系列不可同時使用

使用 Temperature（建議）使用 Top P 同時使用（非 Claude 模型）

⚠️ Claude 系列（Anthropic）不允許同時傳送 Temperature 與 Top P，請選「使用 Temperature」或「使用 Top P」。Titan、Llama、Mistral 等其他模型可選「同時使用」；選錯時驗證設定會偵測並提示。

溫度 (Temperature)0.0 = 確定性，1.0 = 創意

0.7

Top PNucleus Sampling

0.9

建議 0.8–0.95。Claude 系列模型不允許與 Temperature 同時使用，請透過上方「取樣參數模式」擇一；Titan、Llama、Mistral 等其他模型則無此限制。

最大回覆 TokenmaxTokens

Generation Prompt自訂系統提示詞（選填）

填入後此提示詞將覆蓋預設 System Prompt，專屬套用於 Bedrock 模型。留空時系統會依下方「僅限知識庫」設定自動選擇提示詞。

僅限知識庫回答來源限制

勾選後，AI 只能依據知識庫內容回答，不使用本身的訓練知識未勾選：AI 可混用知識庫 + 自身訓練知識回答。若已填入 Generation Prompt，此設定無效

Knowledge Base

知識庫設定

Knowledge Base IDBedrock KB 識別碼

在 AWS Console → Bedrock → Knowledge bases 找到；用於 RAG 查詢。留空時不使用 Bedrock KB（聊天直接呼叫模型）。

Data Source IDKB 資料來源識別碼

在 AWS Console → Bedrock → Knowledge bases → 選擇 KB → Data sources 找到。上傳文件至 S3 後，系統將自動呼叫此資料來源的同步作業（StartIngestionJob）。留空則不自動同步，需至 AWS Console 手動啟動同步。

Knowledge Base RegionKB 所在地區

Knowledge Base 所在 AWS Region（可與 Bedrock 模型的 Region 不同）。留空時沿用上方「Bedrock Model Region」設定。

S3 Bucket 名稱文件上傳目標 Bucket

上傳文件時存放的 S3 Bucket，需與 Bedrock KB 資料來源一致。需確認 IAM 憑證有 s3:PutObject 權限。

S3 RegionS3 Bucket 所在地區

S3 Bucket 所在 AWS Region（可與 Bedrock 模型的 Region 不同）。留空時沿用上方「Bedrock Model Region」設定。

S3 Key 前綴物件路徑前綴（選填）

上傳至 S3 的物件路徑前綴，結尾需包含 /。例如：rag/docs/。留空則直接放置於 Bucket 根目錄。

Knowledge Base 同步手動觸發並確認同步狀態

點擊後將觸發 StartIngestionJob，並持續輪詢狀態直到完成。可用於確認同步是否正常，以及刪除的文件是否已從 Knowledge Base 索引中移除（注意：numberOfDocumentsDeleted 欄位即代表此次 job 移除的舊文件數量）。

Orchestration

推論設定

跨區域推論設定檔 ARNCross-region Inference Profile（選填）

啟用後，模型 ID 欄位可改填推論設定檔 ARN，系統自動跨區域路由

Orchestration Prompt代理編排提示詞（選填）

用於搭配 Bedrock Agent 或多步驟任務編排時的額外指引提示詞。一般對話場景可留空。

Guardrails

內容安全防護

Guardrail ID防護規則識別碼（選填）

在 AWS 主控台 → Bedrock → Guardrails 取得；留空則不啟用

Guardrail 版本版本號或 DRAFT

填入 DRAFT 使用草稿版，或填入數字版本號（如 1、2）

Reranking

重新排序

啟用 RerankingRAG 結果重新排序

使用 Bedrock Reranking 模型對向量搜尋結果重新評分排序需搭配下方 Reranking 模型 ID 設定

Reranking 模型 ID重排序模型

目前支援 amazon.rerank-v1:0；需確認所在 Region 是否提供此模型

Top N重排序後保留的最大結果數

建議 3–10；不得大於 RAG 向量搜尋的 TopK 值

Query Modification

查詢改寫

啟用查詢改寫Query Reformulation

啟用後，系統在向量搜尋前先以 LLM 改寫使用者查詢，提升召回率適合口語化或含歧義的問句；會增加一次 LLM 呼叫耗時

聊天模型供應商

OpenRouter 設定

Ollama 設定

Generation

Knowledge Base

Orchestration

Guardrails

Reranking

Query Modification

RAG 向量搜尋參數

Qdrant 向量資料庫

DeepDoc 解析器設定

Tika 解析器設定