跳转到内容

幻觉、隐私与答案验证

幻觉是 AI 生成了流畅、确定、看似专业但不符合事实的内容,例如虚构论文、错引法规、捏造数字、把猜测说成结论。它不是故意撒谎,而是根据模式生成最像答案的文字。

高风险信号:

  • 引用无法打开、作者和标题对不上;
  • 给出精确数字却没有来源或计算过程;
  • 对不确定问题仍使用“肯定、一定、绝对”;
  • 混淆相近的人名、日期、版本或法律条款。

除非已经获得明确授权并确认平台合规,避免上传:

  • 身份证、护照、银行卡、密码、验证码、API Key、私钥;
  • 客户名单、联系方式、健康记录、未公开个人信息;
  • 未公开财务、合同、报价、源代码、商业计划和内部事故资料;
  • 受保密协议、版权限制或监管要求保护的原始文件。

可采取:脱敏(张三→客户 A)、删字段、只贴必要片段、用虚构数据复现问题、使用企业版并阅读数据政策。注意:脱敏后若能通过组合信息重新识别,仍不安全。

要求 AI 给出来源、原文摘录、页码、计算过程或代码。然后亲自打开来源,确认它真的支持该结论。

用至少两个独立且可信的来源比较;优先官方公告、原始论文、合同原文、标准文档和一手数据。

数字用 Excel/计算器复算,代码在隔离环境运行,日期与版本回到官方页面确认。重要文稿由相关负责人逐句审阅。

请把你的回答分成“已知事实、推断、建议”三部分。
对每条事实给出来源或依据;没有依据的写“无法确认”。
列出你最不确定的 3 个地方,以及我应该如何验证它们。