AI 幻觉抑制与需求对齐 —— 落地方案

适用Claude Code / 任意 LLM 编码助手 | 场景Android App Framework 定制开发可推广0. 方案总览幻觉不是单一问题是五类问题的统称。方案按「事前预防 → 事中控制 → 事后验证」三层设计┌─────────────────────────────────────────────────────┐ │ 事前预防层占效果 50% │ │ 1. 事实供给CLAUDE.md / 知识库 / 提供真实文件 │ │ 2. 需求工程结构化任务描述 验收标准 │ │ 事中控制层占效果 30% │ │ 3. 对齐机制复述确认 / 计划先行 / 反幻觉指令 │ │ 4. 证据强制引用必须可回溯路径:行号 / 日志原文 │ │ 事后验证层占效果 20% │ │ 5. 编译与运行闭环不让我认为能跑过关 │ │ 6. Review 清单diff 审查 置信度分级汇报 │ └─────────────────────────────────────────────────────┘1. 幻觉分类学先知道敌人在哪#类型典型症状Android 场景触发条件本方案对应章节1事实性幻觉编造不存在的 API如Activity#onDestroyEx()、不存在的系统属性、错误的常量值训练数据过时 / 覆盖不足§2、§42上下文幻觉编造项目里不存在的类名/TAG/工具类引用上次讨论的虚构内容未提供项目事实AI 补空白§2、§33需求幻觉你说优化启动速度它去重构了网络层目标模糊AI 自行解释需求§3、§54能力幻觉声称已修复/已测试实际代码没跑过无验证手段AI 只能口头保证§65忠实性幻觉理解对了但答非所问或过度发挥让改一行改十处缺少范围约束和输出格式约束§3、§4核心认知幻觉无法归零模型本质是概率生成目标是把它从常发且致命压到偶发且可被验证机制拦截。2. 事前预防 ①事实供给治本AI 只会脑补它不知道的东西。项目事实写得越全幻觉空间越小。2.1 CLAUDE.md 必须填实的字段字段为什么重要示例Android 版本 / 厂商基线不同版本 API 差异巨大是事实性幻觉重灾区Android 14 (android-14.0.0_r67)高通基线 LA.QVID...私有日志 TAG 表最高频幻觉点AI 乱猜 TAG 含义TAG_Swift 冷启动优化模块; TAG_PSR 预启动恢复源码目录地图防止 AI 把功能归到错误的模块SystemUI 在 vendor/xxx/frameworks/base/packages/...非 AOSP 原生路径厂商定制层说明AI 建议的 AOSP 方案可能被定制层覆盖AMS 的 xxx 被 xxx.patch 改过AOSP 文档不可全信mapping.txt 路径反解混淆日志必需build/outputs/mapping/release/mapping.txt已知坑列表团队踩过的坑最强防幻觉疫苗勿用反射调 HiddenApi目标机 sepolicy 会拦2.2 知识库策略分层供给第一层可信度最高真机日志、grep 到的源码、编译输出 第二层项目内文档CLAUDE.md、wiki、commit history 第三层官方文档context7 / developer.android.com需指明版本 第四层最低模型记忆中的常识 ← 幻觉主要来源能不用就不用硬规则给 AI 的材料按层标注来源并要求 AI 输出时同样标注每个结论的依据层级。2.3 供给时机先喂后问错误示范帮我分析这个 ANRAI 开始脑补日志内容正确示范先贴 logcat 关键片段 → 再贴相关代码文件路径 → 最后提问。3. 事前预防 ②需求工程3.1 任务描述模板每次任务填一遍约 2 分钟省 2 小时返工【目标】一句话可验证修复点击 Settings 图标后 500ms 内 ANR 的问题 【现象/证据】logcat 片段粘贴、复现步骤、复现率10/10 次仅冷启动后首次 【环境】Android 14 高通基线userdebug真机 SN: xxx 【范围】允许改动frameworks/base/services/core/.../ActivityManagerService.java 禁止改动接口签名、广播格式、其他模块 【约束】不能引入新权限不能降低现有启动性能 【验收标准】mma 编译通过 真机连续 20 次冷启动无 ANR monkey 4h 不复现 【交付物】diff 修改说明 验证记录3.2 需求模糊度自查发问前用这 5 个问题扫一遍我能一句话说出什么算完成吗→ 不能则先补验收标准我给了证据日志/截图/文件吗→ 没有则 AI 必然脑补我说清了不允许做什么吗→ 禁止清单和目标同样重要这个任务有唯一正确解吗→ 若是开放性方案应让 AI 先给 2~3 个方案对比而不是直接改AI 会需要哪些我才知道的隐性背景→ 如这段代码下周要同步给芯片厂不能大改3.3 分级任务策略任务级别策略L1 简单改几行、写脚本直接给模板 范围限制L2 中等功能开发、日志分析模板 要求先出计划再动手L3 复杂架构设计、疑难 bug模板 先复述对齐 → 出方案矩阵 → 人工选型 → 小步执行每步汇报4. 事中控制 ①对齐机制4.1 复述确认成本最低、性价比最高在任务开头加一句“开始前用不超过 5 句话复述你对任务的理解目标、范围、约束、验收标准。等我确认后再动手。”拦截率约 70% 的需求幻觉在这一步暴露它复述错了你立刻发现。4.2 计划先行Plan Mode中大型任务强制先出实施计划计划必须包含 ① 要读哪些文件 ② 改哪些文件、每个文件改什么 ③ 有哪些不确定点明确列出不允许隐藏 ④ 潜在风险与回滚方式规则计划里不确定点为空时你要警惕——不是没有不确定是它没意识到。4.3 反幻觉指令集可直接粘贴到任务末尾□ 不确定的内容必须显式说不确定禁止用流畅的语气掩盖猜测 □ 引用项目内代码必须给出 文件路径:行号且必须是本次会话真实读取过的 □ 引用 Android API 前先 grep 项目源码确认签名不得凭记忆 □ 猜测/推断/已验证事实 三类信息分开陈述不得混写 □ 编造过的内容一旦被发现后续输出所有结论自动降级为待验证 □ 说已修复必须同时给出验证方式没有验证方式的已修复视为未完成4.4 证据强制让每个结论可回溯要求输出按此格式团队已有约定扩展为强制结论 XXX 崩溃由 YYY 空指针引发 证据 logcat.txt:142 FATAL EXCEPTION ... at com.xxx frameworks/base/core/java/.../Foo.java:88本次已读取 触发链 A → B → C → 崩溃 建议修复 ... 置信度 高直接日志证据 / 中推断缺 xxx 确认 / 低纯推测无证据的结论 未提交的作业。5. 事中控制 ②会话卫生幻觉会在多轮对话中滚雪球AI 把自己上一轮的编造当作事实继续引用措施说明任务切换就开新会话修完 bug A 立刻讨论架构 B旧上下文会污染新任务长会话定期纠偏AI 开始引用不存在的历史时明确说我们没有讨论过 X请基于当前文件重新回答重要事实当场固化AI 分析出的正确结论写进 CLAUDE.md / 文档不要依赖它记得警惕顺从倾向AI 倾向于附和你。用请找出这个方案的问题而不是这个方案没问题吧拒绝 FOMO 式追问真的吗确定吗会让它改口认错而非变准要它给证据不是给态度6. 事后验证闭环与 Review6.1 验证金字塔按成本从低到高全部通过才算完成真机复测 / monkey 回归 ← 最终标准 ↑ 单元测试 / CTS 相关用例 ← 行为正确性 ↑ adb 实际安装运行看现象 ← 集成层面 ↑ 编译通过mma / gradlew ← 语法层面最低要求规则AI 汇报完成时要求按金字塔自下而上逐级给出证据。6.2 Diff Review 清单人工审查 AI 产出5 分钟快扫□ 改动是否全部在声明范围内越界改动直接退回 □ 有没有顺手重构无关代码这是忠实性幻觉的产物 □ 引用的文件/类是否真实存在抽查 2~3 个 grep 验证 □ 有没有删除原有的防御性代码/日志 □ 异常路径是否处理还是只写了 happy path □ 与厂商定制层是否冲突对照 CLAUDE.md 厂商定制说明 □ diff 中是否夹带未说明的配置/依赖变更6.3 置信度分级汇报制度要求 AI 交付时按此表自评并把低置信度项显式列出待人工确认置信度定义人工动作高有直接证据日志/编译通过/实测抽查即可中有间接证据存在推断环节需验证推断链低纯推测/模型记忆必须独立查证后才可信7. 分场景作战卡速查7.1 日志分析必给原始日志文件路径不是转述 TAG 表 复现条件 必说只基于日志原文分析缺失的环节标注[日志未覆盖]而不是脑补 必查AI 给出的时间线是否每一步都有日志行号支撑7.2 API / 系统行为咨询必说先 grep 本项目源码确认实际签名/版本再回答项目内查不到时查官方文档并注明版本 警惕SELinux 策略、厂商行为、隐藏 API——这三处模型记忆最不可靠7.3 代码生成必给要仿照的现有代码文件风格对齐靠样例不靠描述 必说只输出改动部分 diff新增文件先列出清单征得同意7.4 Bug 修复必给复现步骤 复现率 根因证据哪怕只是猜测也要标注是猜测 必说先提出根因假设和验证方法确认根因后再改代码防止症状式修补7.5 方案设计必说给出 2~3 个候选方案各带优缺点/风险/工作量对比不要直接选定 必查方案是否基于本项目真实约束基线版本、厂商定制、团队规范8. 效果度量与持续改进指标采集方式目标一次通过率任务无需第二轮返工的比例 70%编造率Review 中发现虚构 API/类名/引用的次数/周趋势下降返工原因分布需求理解错 / 事实编造 / 过度发挥 各占多少针对性补 CLAUDE.md低置信度命中率AI 标注低置信度中事后被证伪的比例高命中率说明自评可信改进循环每次返工 → 归因→ 若是事实性问题把正确答案固化进 CLAUDE.md → 下次同类问题免疫。