AgentZ

主題

名詞表 · Production Governance + 模型訓練 / Agentic-RL ​

← 回名詞表總覽

8. Production Governance ​

預算上限 / Budget Cap ​

  • 專業：在 agent run / day / user / org 層級設定累積 token spend 上限。超過 fail-closed（raise exception / stop run）。
  • 白話：「最多花 X 元」的硬規定。超過就停。
  • 範例：V3 三層 cap：costBudgetUSDPerRun = 0.5 / costBudgetUSDPerDay = 10。Anthropic console 也有月帳號 cap 可設。
  • 章節：Ch 8 §4.1

介入 / Intervention / Abort ​

  • 專業：external signal 中止 in-progress agent run。實作：abort registry 標記 run_id、agent loop 在每個 LLM call / tool call 之間 / SSE 之間檢查 flag、撞到 raise / 結束。
  • 白話：agent 跑到一半你按「停」、它馬上停下。
  • 範例：Claude Code Ctrl+C、V3 POST /runs/{id}/abort?reason=...、UI「介入」chip。
  • 章節：Ch 8 §4.3

稽核 / Audit ​

  • 專業：每個 agent action（LLM call / tool call / state transition / cost event / abort）寫進 append-only event log。每筆 audit_event_id + ts + category + run_id + payload。
  • 白話：「agent 做了什麼、何時做的」全紀錄。出問題能查。
  • 範例：V3 PostgreSQL audit_events JSONB table、category enum (llm_call / tool_call / run_aborted / cost_exceeded / ...)。
  • 章節：Ch 15 §3.1

回放 / Replay ​

  • 專業：紀錄每次 LLM call / tool call 完整 input + output + cost，事後可重現整個 run 或從某 step 分叉重跑（fork replay）。
  • 白話：「agent 那次跑的所有細節錄影下來、能倒帶看」。
  • 範例：V3 replay_records 表存每 step 的 input/output JSONB、cost_estimate / cost_observed。UI 列 trace、點某 step 看 raw、或「從這 step 改 prompt 再跑」。
  • 章節：Ch 15 §3.2

護欄 / Guardrails ​

  • 專業：限制 agent 行為的硬約束。實作層次：filesystem path allow-list / MCP server scope / Hook PreToolUse blocking / model-level safety classifier。
  • 白話：「agent 不准做這些事」的圍欄。
  • 範例：filesystem MCP 只給 /tmp/agentz 路徑、Hook 擋住 rm -rf 指令、production secret 從不進 prompt。
  • 章節：Ch 6 §8

9. 模型訓練 / Agentic-RL ​

監督式微調 / SFT (Supervised Fine-Tuning) ​

  • 專業：用人工標註的 (prompt, ideal_output) pair 跑 cross-entropy loss、更新 model 參數（全參數 / LoRA / QLoRA）。
  • 白話：「給範本、讓 model 學著像範本回答」。
  • 範例：1K 筆 function-calling 範例 fine-tune Llama-3-8B，得到 BFCL 比 base model 高 10% 的小 model。
  • 章節：Ch 17 §2

群體相對策略優化 / GRPO (Group Relative Policy Optimization) ​

  • 專業：對同一 prompt sample N 個 output（N=8 常見），給每個算 reward，計算 group_mean reward，每個 output advantage = reward - group_mean，policy gradient 更新。不用 reference model。
  • 白話：「同一題出 8 個版本、看哪個對得分高、學那個方向」。
  • 範例：DeepSeek-R1 用 GRPO + 純 RL 跑出 OpenAI o1 水平的 reasoning model（沒 SFT 暖身、671B model）。
  • 章節：Ch 17 §5

智能體強化學習 / Agentic-RL ​

  • 專業：用 RL 訓 agent 跑多步 task。Reward 通常 sparse（任務完成 = 1、其他 = 0）、需 trajectory rollout + advantage estimation + policy update。
  • 白話：給 agent「成功就好、過程自由」的訓練——它自己摸索哪些 tool sequence 有效。
  • 範例：訓練「訂機票 agent」、reward 是「最後是否真的訂到 + 票多便宜」。模型自己摸出「先比價再訂」的策略。
  • 章節：Ch 17

10. 合規 / 國際標準（2026 新加） ​

ISO/IEC 42001 / AIMS（AI Management System） ​

  • 專業：2023-12 ISO + IEC 共同發布的第一個國際 AI Management System 標準。Plan-Do-Check-Act 框架（模仿 ISO 9001 / 27001）。對「develop / provide / use AI 產品 / 服務」組織 voluntary 認證。Stage 1 audit（review scope / inventory / policy / risk）+ Stage 2 audit（test 運作 + sample use case）+ 年度 surveillance。
  • 白話：「AI 管理系統」的國際 ISO 認證，類似 ISO 9001 之於品管。組織想證明自己負責任做 AI 就申請。
  • 範例：2026 中 EU enterprise AI 供應商 RFP 40% 詢問 ISO 42001 certified、NA 25%。AWS / Microsoft Azure 已取得；Anthropic / OpenAI 走 SOC 2 + 自家 RSP 為主。約 6-12 月全程。
  • 章節：Ch 15 §5b 合規對照 — V3 4 pillar 對映 ISO 42001 各條 + Ch 15 §3（pillar 實作）+ 速查卡 Compliance

NIST AI RMF + GenAI Profile（NIST-AI-600-1） ​

  • 專業：美國 NIST 2023 發布 AI Risk Management Framework，含 4 core function — GOVERN / MAP / MEASURE / MANAGE。2024-07-26 補 NIST-AI-600-1 GenAI Profile 加 200+ actions 對應 LLM/GenAI，涵蓋 12 specific risks（CBRN information / Confabulation / Data privacy / Information security / IP / Toxicity-bias / Value chain 等）。聚焦 4 主題：Governance / Content Provenance / Pre-deployment Testing / Incident Disclosure。
  • 白話：美國政府版「AI 風險管理 4 步流程」+「LLM 補丁手冊」。voluntary 但是美國公部門 / 大企業 procurement de facto 要求。
  • 範例：CSA（Cloud Security Alliance）2026 在發展 NIST AI RMF Agentic Profile v1，把 agent 場景的 risk 對映到 4 function。
  • 章節：Ch 15 §5b + Ch 15 §3 + Ch 8 §5.1

EU AI Act ​

  • 專業：歐盟 2024 通過，2026-08-02 Annex III high-risk system enforcement 生效（trilogue 2026 進行中可能延至 2027-12）。4 個獨立 compliance check（不是互斥 tier）：Prohibited / High-risk Annex III 8 domain（biometric / critical infra / education / employment / credit / law enforcement / migration / justice）/ Transparency / GPAI。罰款上限：prohibited €35M 或 7% 全球年營業；high-risk €15M 或 3%；透明度違規 £17M 或 4%。
  • 白話：歐盟版「AI 法律」，2026 中開始強制。沒做合規 = 全球營業 3-7% 罰款。Annex III 8 領域（招聘、信用、教育…）門檻最高。
  • 範例：用 agent 做 resume scanner → 自動 promote 為 high-risk → 開 audit trail + risk assessment + EU database 註冊 + 強制 human oversight。若 agent 對外用必加「[AI-bot]」標籤（transparency check）。
  • 章節：Ch 15 §5b — EU AI Act 8 high-risk domain + V3 對映 + 速查卡 Compliance §EU AI Act

OpenTelemetry GenAI Semantic Conventions ​

  • 專業：CNCF OpenTelemetry 為 GenAI / agent 標準化的 span / metric 命名規約。Span：invoke_agent {gen_ai.agent.name} / chat {model} / embeddings。Metric：gen_ai.client.token.usage（histogram by direction）/ gen_ai.client.operation.duration。2026-03 仍 experimental，多 agent system convention 在 SIG 發展中。
  • 白話：「agent 跑出來的監控資料」業界統一格式 — Datadog / Grafana / Uptrace 看 agent trace 不用各自寫 parser。
  • 範例：Datadog LLM Observability / Uptrace / OpenLLMetry 已實作；agent code 加 OTel SDK，metric 直接 ship 出去 dashboard 自動顯示。AgentZ 教學選 OTel 作為標準 observability backend。
  • 章節：Ch 15 §5a 完整 OTel 整合 — span/metric 表 + OpenLLMetry Python 5 分鐘上手範例 + Ch 8 §3

其他類別 → 基礎 · Agent / CLI · 實務 · Production · 台灣/混淆 pair

MIT License — 章節內容跟 starter code 都可以 copy 進你自己的商業專案

© 2026 Symbiosis (SBS) — AgentZ contributors