任务架构

离线 AI 结果的用户复核状态设计

让用户能比较、编辑、接受或拒绝模型候选结果,不把生成行为伪装成批准。

审核状态: 内容已校验;中文稿供用户审核 · 2026-10-04 · Fact IDs: FUNCTION-01, PRIVACY-01

直接回答

复核 AI 结果是产品状态转换,不是生成后加一个装饰性的点赞按钮。源输入、模型草稿、不确定性标记、用户修订和最终接受版本应当能够区分。`FUNCTION-01` 说明模型生成的操作是交给主机的提议,而不会自动执行;`PRIVACY-01` 说明本地推理不能证明应用不存在其他数据路径。这些事实支持明确的复核边界:模型可以提出内容,应用策略和用户动作决定它何时成为已接受结果、是否可以离开设备。 先按真实任务定义“已复核”是什么意思。阅读摘要、修改句子、批准字段提取和确认翻译并不是同一操作。只有实现确实需要时,才使用草稿、需注意、已编辑、已接受、已拒绝或已替换等状态。每项候选内容都关联源版本以及实际可用的模型、运行时、提示和解析器版本。新生成到来时不能覆盖原输入或抹掉先前修订。来源记录应符合需要,不要把未经验证的推理过程或诊断解释当作审核凭证。 将不确定性转化为用户可处理的信息。标明缺失、变化、推断或未通过确定性校验的片段。如果运行时没有定义置信度,就不能编造全局置信分数。提供可执行的选择:比较源文和结果、编辑、接受、拒绝、重试失败部分,或明确保留为部分草稿。如果结果会触发有影响的操作,接受文本与授权操作应是两个独立控件。模型说“我已经做了”不是外部操作真实发生的证据。 用固定合成样例测试复核转移。覆盖正确输出、读起来流畅但违背源文的结果、信息缺失、矛盾、未支持字段、结构错误、中断和重复生成。确认已接受版本指向用户实际查看的候选版本;之后生成的新草稿不能静默替换它。演练导航和进程重建,未保存编辑要么按策略恢复,要么清楚提示尚未保存。如果支持分享,先预览已接受内容,并区分原始来源和旧草稿。 隐私审查要覆盖完整复核生命周期。用户修订可能加入原文没有的细节。检查草稿和接受结果保存在哪里,是否进入备份、搜索、剪贴板、日志或导出,以及删除时如何处理派生版本。遥测字段不要序列化完整对话。敏感任务使用合成或脱敏样例;分享包越过应用边界前应由用户预览。 验收记录应包括构建、任务类型、源/结果标识、状态变化、校验规则、用户编辑、存储/导出行为和失败结果。测试审核者没有实际查看的译文时,不要假称用户已经接受。复核状态测试通过,只能证明界面保留了状态差异,不能认证模型内容真实、安全或质量良好;这些主张需要单独的任务评测证据。

用户保存前复核本地生成的摘要

应用根据源笔记生成摘要,其中一句话遗漏了限定语;用户编辑首稿后,后台又返回了第二次生成结果。

决策

让源文、首稿、用户修订和接受版本关联但分开存储,避免迟到的响应覆盖用户刚复核过的版本。

预期结果

历史能显示生成内容、用户改了什么及最终接受的确切版本,不会把模型生成本身标成用户批准。

需要收集的证据

只有将以下证据与同一模型文件和测试运行关联起来,结论才可复核:

  • FUNCTION-01:模型操作是待主机处理的提议
  • PRIVACY-01:本地推理不证明应用没有其他数据路径
  • COVE-LIFECYCLE-01:项目具有显式生命周期状态

任务质量需要有版本记录的语料和验收规则;流畅的单条样例不等于准确度结果。

实施流程

Use a defined review-state structure to log, compare, and follow the progress of approved and rejected fixtures alongside every recorded edit and export action, ensuring that each element is traceable within the workflow and that changes can be reviewed against the underlying source at every stage. (FUNCTION-01)

  1. 定义任务所需的复核状态. 仅在符合任务时定义草稿、待复核、已编辑、已接受、已拒绝和部分完成,并为每种状态规定允许操作。
  2. 保留源文和候选版本来源. 将候选关联到源修订及实际可用的模型/运行时/提示/解析器身份。新草稿到来时,原输入与先前接受内容保持不可变。
  3. 让不确定性可处理. 显示缺失、推断、变化和校验失败片段,允许比较、编辑、接受、拒绝、重试或标记保留为部分结果。
  4. 测试状态转移和竞态. 使用正确、错误、矛盾、格式错误、中断和重复输出样例。重建界面后验证迟到响应不会覆盖已审核版本。
  5. 审计持久化和分享边界. 分别检查草稿、修订、接受结果、备份、搜索、日志、删除和导出;用户主动分享前预览所选内容。

验收标准

  • 源文、模型候选、用户修订和接受结果互相可区分,并关联到准确候选版本。
  • 新结果或重复响应不能静默覆盖已接受/已编辑版本,界面重建后仍成立。
  • 审核证据限定为状态与界面测试,不因用户点击接受而声称内容真实、安全或高质量。

决策对照表

维度选择或证据解读方式
生成草稿模型提出的内容可供查看,但不代表已经批准或执行。
用户编辑候选关联来源的修改版本要保留修改,并记录用户实际查看的是哪版。
接受结果用户明确批准的版本记录了用户动作,但不能独立证明内容真实。

需要避免的失败模式

  • 覆盖原始输入或旧修订
  • 把接受按钮说成内容真实证明
  • 将整段对话写入遥测作为审核记录

Avoid letting modifications overwrite the original source content, and resist the assumption that a generated result constitutes approval; any language about a release or acceptance should be limited strictly to what the recorded evidence explicitly supports. (PRIVACY-01)

最小复现记录

层级记录内容
设备厂商、型号、芯片、内存档位、操作系统版本
软件应用版本和 Git 提交号
模型系列、变体、版本、格式、文件长度、摘要、量化方式
运行时名称、版本、请求后端及实际后端证据
工作负载样例版本、输入摘要、提示词摘要、输出策略
结果完成、失败、取消、回退及保护隐私的诊断信息

发布检查表

  • ☐ 主要搜索问题已回答,且没有未经支持的数字。
  • ☐ 所有模型文件和运行时版本均已固定。
  • ☐ 代表性任务和失败处理策略均有说明。
  • ☐ 生命周期、取消、清理和回退均已测试。
  • ☐ 用户内容与网络边界均有说明。
  • ☐ 结论只适用于被记录的配置。
  • ☐ 新增测试结果时链接到原始方法或证据。

来源与相关证据

中文部署与排错专题见。奇连 AI 端侧专题。

常见问题

点击接受能证明 AI 输出正确吗?

不能。它只记录用户针对特定版本的动作。内容真实性、安全性和质量需要另行按任务审核、定义验收标准并提供独立证据。

新生成结果应该替换已接受版本吗?

不能静默替换。保留旧接受版本,单独展示新候选,让用户明确复核并选择是否替换,同时保留两版来源关联、审核时间和版本。

置信度分数能代替检查源文吗?

只有运行时暴露了定义清楚且验证过的指标时才可展示;即便如此,也不能替代重要细节的源文核对、用户确认和风险检查。