人工闸门放错位置，AI 工作流只会更慢或更危险

直接判断：人工闸门应该拦住风险，不应该拦住每一次读取；最合适的位置是动作首次变得外部可见、产生费用、影响客户或难以恢复之前。

两种极端都常见。一种是每一步都要人点确认，AI 只能变成昂贵的遥控器；另一种是一路自动执行，最后给人看一份完成报告，此时错误已经发布、发送或写入。真正有效的闸门需要与风险类型和可逆性匹配。

先做判断

先把动作分为四级：只读观察；本地生成或草稿；可恢复的外部小范围变更；不可逆、批量、费用或公开影响。前两级通常可以自动推进并保留日志；后两级需要预览、差异、责任人批准和回读，高影响动作还应分批与设置回退。

批准必须是对具体对象和具体版本的批准。“可以优化网站”不是对某份生产 diff 的授权，“可以先试五个商品”也不是对全量应用的授权。

诊断与决策框架

第一，评估影响面：对象数量、客户可见性、费用、合规与连锁依赖。数量少不一定低风险，一个主导航或结账设置就可能影响全站。

第二，评估可逆性：能否一键回退、是否保留旧值、平台是否异步处理、恢复需要多久。可恢复不等于无风险，尤其当用户已经看到错误。

第三，评估证据质量：真源是否明确、预览是否完整、AI 置信度是否足够、是否有未知项。未知越多，闸门应越靠前。

第四，选择闸门。常见链路是只读诊断自动进行；生成候选与 diff 自动进行；外部写入前由 owner 批准；先应用小样本并回读；满足通过标准后再次明确全量范围；发布或发送前单独批准。

第五，记录否决理由。人工驳回不是流程失败，而是最有价值的规则来源。把理由沉淀成下一次的自动检查，才能逐步减少不必要的闸门。

还要定期删除已经失去作用的审批。如果某类低风险动作经过多轮验证、具备稳定回退和完整回读，可以把人工批准降级为抽样审计；闸门的数量也应由证据决定。

常见误判

• 把“已登录”“接口可写”当作业务授权。
• 只在流程最后审核摘要，不看实际 diff 和目标对象。
• 批准后重新生成计划，却没有让版本失效。
• 为追求全自动，隐藏低置信度与部分失败，使人无法作出真实判断。

验证清单

• 每类动作有明确风险等级、可逆性与 owner。
• 批准绑定对象范围、diff 版本和有效期。
• 小样本批准与全量批准是两个独立状态。
• 外部发送、生产发布、费用与删除各有单独闸门。
• 应用后先回读，再决定是否扩大范围。
• 驳回原因会进入规则或检查清单，而非只留在聊天记录。

适用边界

本文适合 AI 参与商品、页面、广告、邮件和知识系统操作的场景。紧急事故可使用预先授权的应急流程，但仍需事后回读与审计；法律、财务和安全高风险事项还需要对应专业责任人。

先通过 任务契约 写清授权，再用 安全独立站 AI 工作流剧本 安排具体闸门与小样本验证。