AI 的回答能直接用吗？看出错的后果多大

把普通提醒邮件改得礼貌些，通常直接对照原句检查就行。原句要是涉及项目赔偿承诺，改写时把“可以讨论”变成“保证赔偿”，就可能影响合同沟通。

两次都叫改写，后果却不同。所以每条回答查到多细，要看结果凭什么成立，以及用错后会发生什么。全文先按任务风险分类，再配三条核查指令和提供资料前的隐私处理。

同样的核查，放在不同任务上，力度应该不同。可以先按任务风险把常见的情形分成四类，看结果凭什么成立、用错后会发生什么，再决定查到多细、哪些要交给专业人士确认；错误常常出在任务没说清、资料有缺口或旧资料混进来这几处，沿着缺口回去处理，比逐字检查省力得多。

提供资料之前也要先想一想：身份证号、客户隐私、未公开的合同这类内容，能不能给，给了会怎样，脱敏之后再交给 AI，才稳妥。

01 根据任务风险安排检查

风险判断需要同时看两件事：结果凭什么成立，以及用错后会发生什么。语气再自然，事实也要核对；风险高低要看具体内容，光看任务名称不够。

先用四类任务确定主要核查方向：

一项任务可以同时属于几类。例如客户邮件引用了最新政策，就既要检查表达，也要核对政策。另一份只有四步的发布前清单，见发布 AI 结果前：四步终审清单。

02 错误可能来自哪里

Claude 根据任务说明和当前可用信息生成回答，所以错误常来自这四处：

以把会议记录整理成待办为例：即使已经要求“没有负责人就标未明确”，也还要检查输出是否擅自分配了负责人。请求清楚能减少任务歧义，事实还要靠资料；逐项回查原记录，才能发现这次执行得对不对。

把指令、背景、输入材料和示例分开，也能减少误用。示例中的虚构客户只用来示范格式；旧价格表要标明日期，和新活动承诺分开。

检查时，先看资料本身是否可靠，再看回答有没有准确使用它。可靠的资料可能被误读，错误的资料也可能被整理得很流畅。两边都值得核对。

03 检查内容，也检查行动

幻觉指回答看似可信，却可能错误或没有依据。这里重点检查它的具体表现，例如编造出处和数据，或把推测写得十分确定。幻觉的基础概念和它与搜索、固定软件的分工，见AI 和搜索引擎的分工，新手最容易搞混。

人名、机构、时间和数值尤其要对应来源，写得再精确也要核实。收到的 AI 回答里，挑一个人名、日期或数字，回到原文或来源查一次，就能知道这类回答的可靠程度。

另一些错误来自资料处理。比如漏掉“预算批准后”这个条件，待讨论的事就成了正式决定；两份文档混着用，A 项目的要求就可能被写进 B 项目。

还要单独检查外部动作。回答里说做了，要去系统里看结果：

它说“我已经发邮件了” → 检查邮箱
它说“我已经保存文件了” → 看是否有真实文件
它说“我已经查到最新信息” → 看是否真的使用了搜索能力

邮件要看发送记录才算发出；搜索过的结论，也要逐条核对。

04 三条核查指令

Anthropic 的减少幻觉指南把几个办法列为基本做法：允许模型说“我不知道”；处理长文档时先提取原话；再让它为每条结论找出支持的引文，找不到就撤回。这三条指令对应这些办法。

1. 标明不确定的信息

如果你不确定，请直接说“不确定”，不要猜。

这样模型可以直接说不知道。它也可能误判自己有多确定，所以没标“不确定”的内容，同样要按任务风险检查。

只需要处理给定材料时，可以进一步限定：

请只根据我提供的资料回答，不要使用外部知识。
如果资料中没有答案，请写“资料中未提到”。

“资料中未提到”只说明这份材料回答不了，答案可能在别处。例如记录里没写截止时间，就标待确认。

2. 核对结论依据

请先从原文中提取支持结论的句子，再进行总结。
如果原文没有依据，请不要补充。

先定位原句，再检查总结是否保留主语、动作与条件，可以减少回查负担。引用也可能不准确，重要内容要打开原文比对。

需要同时包含分析时，可以要求：

请把回答分成三部分：
1. 来自我提供资料的内容
2. 你的推断
3. 需要我进一步核查的信息

这样读者可以看出哪项有直接材料支持，哪项只是解释或建议。比如“用户提到价格高”是反馈记录，“降低价格会提高转化”是另一个待验证判断，两者要分开写。

3. 核查时效、行动与专业判断

查询“现在、最新、最近、今年是否上线”这类内容，用 Web Search 拿当前来源；需要多方面查找与综合时再选 Research。两种功能怎么选，见联网搜索、项目、深度调研，各适合什么任务。

拿到来源后看三样：发布者、日期、适用范围。重要结论必要时交叉核对独立的可靠来源。多个网页转载同一说法，只算一份证据。

为文章补资料出处时，要打开引用的原始来源，确认它存在并支持结论。查不到就继续找可靠证据；还找不到，就写明依据不足。

说发送、保存、访问或执行的回答，核查办法前面讲过：事实核验看说法是否成立，系统回查看动作是否真的发生，两样都要查。

后果严重的任务还要把结论交给相应专业人士或有责任的人确认，Claude 可以帮忙整理咨询材料。

05 提供资料前保护隐私

身份证号、银行卡号、密码、客户隐私、商业机密、未公开合同和病历细节，输入前都要先判断。先确认账号类型、组织政策和隐私设置；再想清楚两件事：这份资料真有必要给吗？得到许可用在这个工具里吗？两个问题只要有一个答案是“不”，就先别上传。

能删的就删；需要保留关系的，用替代标识。改写客户邮件时，姓名、电话、合同编号可以换成“客户 A”“联系方式已删”“合同 B”，金额用“金额 X”。

脱敏还要看组合信息。去掉姓名却保留唯一订单、完整地址和事件细节，仍可能识别个人。只提供完成当前任务需要的部分，再检查这些信息合起来还能不能认出真实身份。

改完后再读一遍，问问认识这件事的人能不能猜出是谁，猜得出就继续改。

如果任务确实必须使用受保护资料，应先满足实际组织要求与相应权限。对 Claude 说“保密”只是一句请求，数据处理要按组织规则来。把上传前处理、事实采用、公开发布和重要决定四个节点写成具体规则，见零基础练 AI，七天每天只做一件事。

06 按风险选择检查措施

给任务做风险判断时，每项留下三个信息就便于回查：

• 可能错在哪里，例如丢掉条件、使用旧资料或新增承诺。
• 错了有什么实际后果，由谁承担采用责任。
• 采用前做哪个检查，怎么发现并处理错误。

可以用风险等级概括结果，并写出具体理由和检查动作。例如把“直接采用它总结的政策”改为“先核对官方现行文件、适用范围与日期，再采用有依据的部分”，就明确了下一步该做什么。

核查记录也能帮助安排后续练习：遗漏条件就练原文比对，误用旧资料就练时效核查，把回复当完成就练系统结果检查。下一轮先练哪一步，由这份记录来定。