幻觉、隐私与答案验证
什么是“幻觉”
Section titled “什么是“幻觉””幻觉是 AI 生成了流畅、确定、看似专业但不符合事实的内容,例如虚构论文、错引法规、捏造数字、把猜测说成结论。它不是故意撒谎,而是根据模式生成最像答案的文字。
高风险信号:
- 引用无法打开、作者和标题对不上;
- 给出精确数字却没有来源或计算过程;
- 对不确定问题仍使用“肯定、一定、绝对”;
- 混淆相近的人名、日期、版本或法律条款。
什么信息不能直接上传
Section titled “什么信息不能直接上传”除非已经获得明确授权并确认平台合规,避免上传:
- 身份证、护照、银行卡、密码、验证码、API Key、私钥;
- 客户名单、联系方式、健康记录、未公开个人信息;
- 未公开财务、合同、报价、源代码、商业计划和内部事故资料;
- 受保密协议、版权限制或监管要求保护的原始文件。
可采取:脱敏(张三→客户 A)、删字段、只贴必要片段、用虚构数据复现问题、使用企业版并阅读数据政策。注意:脱敏后若能通过组合信息重新识别,仍不安全。
要求 AI 给出来源、原文摘录、页码、计算过程或代码。然后亲自打开来源,确认它真的支持该结论。
用至少两个独立且可信的来源比较;优先官方公告、原始论文、合同原文、标准文档和一手数据。
3. 复算 / 复做
Section titled “3. 复算 / 复做”数字用 Excel/计算器复算,代码在隔离环境运行,日期与版本回到官方页面确认。重要文稿由相关负责人逐句审阅。
请把你的回答分成“已知事实、推断、建议”三部分。对每条事实给出来源或依据;没有依据的写“无法确认”。列出你最不确定的 3 个地方,以及我应该如何验证它们。