值得信赖的
自主性
自主系统能运行还不够。
它还必须能被采纳。
部署条件
四项架构要务
自主系统只有满足这四项条件，才能在真实组织中部署。否则，自主仍只是原型。
可理解
AGT每项决策都可以被解释。
不仅对工程师，也对必须承担责任的人。智能体的推理始终可追溯，从触发到影响。
可监督
HITL每个系统都可以被观察并中断。
自主不是失去控制，而是可撤销的委托控制。人类可随时观察并停止任何智能体。
可质疑
HITL每项决策都可以被挑战。
执行中、执行后皆可。且质疑会产生实际效果：智能体可被停止、纠正或重新配置，而非仅被观察。
可归属
AGT每项行动都有责任人。
AI 执行，人类负责。责任链永不中断。每项关键决策都带有验证者的身份。
运营架构
可信架构蓝图
每一项智能体决策在影响组织之前，都须经过这些层级。
TRUST PROTOCOLv1.0
Human Intent目标来自人类
ACTIVEAgent System推理 · 规划 · 执行
RUNNINGAGT Boundary审计 · 治理 · 可追溯
HITL Gate关键决策须人类验证
HUMAN VALIDATION REQUIREDExecution已授权行动 · 可追溯 · 可归属
AUTHORIZEDAccountability Loop结果 → 审计 → 学习
↺ CONTINUOUS机器机制
AGT 使智能体
可理解
且 可归属.
可审计性、治理、可追溯性——三项架构约束，在约束自主的同时并不消除它。智能体在既定边界内行动，留下不可篡改的痕迹，并始终保持可理解。
✓ 可理解✓ 可归属
人类机制
HITL 使智能体
可监督
且 可质疑.
Human In The Loop。HITL 不是自主的刹车，而是人类责任必须介入的精确节点，系统才能被部署。不在此之前，也不在此之后——恰在此处。
✓ 可监督✓ 可质疑
决策追溯REF-2024-0604-014
行动供应商合同审批 — 48 000 €
智能体Kepler / 采购优化器
推理分析 3 份报价 · 标准：价格、交期、历史 · A 方案得分：91/100
AGT 记录✓ 已记录✓ 策略已校验✓ 追溯完整
关键阈值金额 > 10 000 € — 规则 7.2：须财务总监验证
HITL 关卡◌ 等待中— 财务总监 — 已于 14:32 通知
选项批准质疑升级
窗口48 小时 — 于 2024-06-06 14:32 UTC 到期
✓可理解推理已记录
✓可监督已通知财务总监
✓可质疑质疑窗口：48 小时
✓可归属责任人：D. Martin — 运营副总裁
我们智能体做出的每项决策都可以被解释、监督、质疑，并归属于人类决策。
这不是一项功能。
而是部署的前提条件。