AI输出进入关键业务,人工复核应该放在哪里
人工复核不是最后增加一个确认按钮,而要放在风险真正发生之前。
先区分建议和执行
总结、分类和草稿属于建议;付款、发信、改价和删除数据属于执行。建议可以自动生成,执行应根据风险设置确认。
复核点由损失决定
低风险内容可以抽检;涉及客户承诺、资金与合规的信息,应逐项确认;无法恢复的动作还需要权限隔离和操作记录。
给复核者足够依据
系统不能只显示一个AI结论,还要显示来源、计算过程、差异和不确定项。否则人工确认只是形式。
保留拒绝自动化的能力
当数据不全或条件不满足时,系统应该停止并进入人工队列。可靠产品的重要能力之一,是知道什么时候不继续。