字节面试真题：Agent如何减少幻觉？
字节真题Q：Agent 怎么降低幻觉？工业场景下如何落地？

「解题思路」RAG 只是其中一环，单靠它远远不够。工业场景降低幻觉需构建多层防御体系：

1️⃣生成前——限制输入：
Prompt 约束：在 System Prompt 中明确指令“仅依据给定信息作答，不确定则回复不知道”。这是最基础但成本最低的防线

RAG 注入事实：检索关联文档作为上下文支撑，让模型“有凭有据”而非凭空编造

上下文精简：注入信息需精准聚焦，噪声过多反而会诱发幻觉——模型会从无关上下文中“捏造”出看似合理的内容

2️⃣生成中——限制输出：
Structured Output：借助 JSON Schema 或 function calling 约束输出结构，压缩自由发挥空间

引用溯源：要求模型在回答中标注信息来源（“依据文档 A 第 3 段”），强制将生成内容与证据绑定

3️⃣生成后——核验结果：
事实校验链路：通过另一模型或规则引擎校验生成内容的事实准确性——关键数值、日期、实体名称是否与源数据匹配

一致性检测：对同一问题多次生成，若答案存在差异，说明模型不确定，标记为低置信度

人工兜底：高风险场景（金融、医疗、法律）无论模型多笃定，关键结论均需人工复核

防线层级：Prompt 约束 → RAG 注入 → 格式约束 → 引用溯源 → 事实校验 → 一致性检测 → 人工审核

但工业落地不能把这套防线无脑全量堆砌，多层校验会带来 token 开销上涨、接口延迟抬升的现实问题，需要结合业务风险做分级调度。低风险普通咨询场景，可裁剪部分校验环节保证响应速度；涉及工具写操作、金融数据输出等高风险链路，才完整开启全链路防御，写操作还需增加确认步骤，避免 Agent 编造工具参数引发事故。

很多人会陷入误区，认为 RAG 可以根治幻觉，实际上检索链路本身也会出错，切片不合理、召回无关文档，同样会诱发断章取义式错误。线上要设置检索相似度阈值，低于阈值直接拒绝生成答案，宁可不回答也不要强行输出内容。

btw要搭建观测与迭代闭环，收集线上幻觉 case 做归因，区分是 prompt、检索、工具调用还是校验模块的问题，沉淀为测试集回归验证，持续迭代优化整套体系。
字节面试 agent开发 aiagent RAG 字节面经 agent面试 大模型面试 互联网大厂