这些闸门会不会让系统变慢？

会增加少量确认步骤，但能避免重复扣费、错误发布和错误写入带来的更大成本。成熟后，可以把低风险操作逐步放开为全自动。

AI 应用上线前的五道闸门：来自我们项目的做法

大模型和自动化让很多事情变快，也让错误变快。一个没有约束的 AI 系统，可能在几分钟内重复扣费、发出未审核的内容，或者把错误数据写进业务系统。闸门的作用是让系统在不确定时停下来，把决定交还给人。

每次模型或生成服务调用都进入账本，记录预留金额、实际扣费和“计费不明”三种状态。生成前先报价，用户确认后才执行。案例工场的每次生成都先报价、确认后才执行；我们的英文内容自动生成服务设置了每日 10 元的预算上限。

很多生成接口在超时后状态未知：可能失败了，也可能已经生成并扣费。自动重试会造成重复扣费。我们的规则是：明确失败才重试，结果不明的任务标记出来，由人确认后再处理。

审核通过的是“某个版本的成品”，不是“这个任务”。在案例工场中，审批绑定成品版本和发布账号配置，稿件一旦修改，之前的审批自动撤销。上市公司 GEO 平台中，稿件必须经过合规引擎和董秘终审才能发布。

能读不等于能写。民宿订单同步系统把建单、改单、取消、解锁、在住五类写入分开管理，每类都经过影子运行（只读比对）、辅助执行、全自动三个阶段。检测到冲突时暂停写入并告警，等待人工裁决。代理记账系统中，个税扣缴的自动化默认只做演练，不自动最终申报。

AI 写的内容必须能回到证据。品牌 GEO 内容中台要求文章中的事实标注来源编号，AI 生成的文章不会被当作新的事实来源；上市公司平台把稿件与公告逐句比对，并保留不少于 3 年的审计记录；维权线索监测为每条证据保存快照和 SHA-256 摘要。