AutoResearch：顿悟，幻觉
该论文试图解决自主研究系统如何在持续积累领域知识的同时，确保从研究想法形成到实验结论得出的全过程保持科学 grounded，并防止系统级幻觉的问题。
具体而言，论文针对当前自主研究系统在以下两个互补维度上的缺陷展开：
1. 研究发现（Idea Generation）中的洞察流失问题
现有自主系统虽能执行从目标设定到实验验证的长流程，但大多依赖用户预设的研究想法或固定上下文。论文指出，这类系统缺乏持续整合新兴研究信号与累积领域知识的能力，难以从不断演化的研究图景中识别可迁移的机制性洞察（mechanistic insight）。这导致自动生成的假设往往停留在表层关联，而非基于对“为何有效”的技术理解。为此，论文将研究上下形式化为：
Ct=(Kt,St)
其中 Kt 为累积的领域知识，St 为新观测到的外部信号，并寻求映射：
Gidea:(Ct,D)→(h,p)
以生成可追溯、可检验的研究假设 h 与执行计划 p。
2. 研究执行（Idea Execution）中的系统级幻觉问题
即使生成了研究想法，现有系统在将想法转化为代码、实验与结论的过程中，实现错误、测量偏差或解释谬误仍可能传播，最终形成看似连贯但缺乏证据支持的研究主张。论文将此视为一种系统级幻觉（system-level hallucination）。为应对该问题，论文要求研究结论 c 必须满足证据 grounding 条件：
Accept(c)⇒∃e∈E; Supports(e,c)=1
即结论被接受的前提是其必须由对应实验证据 E 独立支撑，而非仅由生成该结论的代理自行认定成功。
3. 两阶段脱节导致的整体可靠性缺失
论文进一步指出，单纯将“想法生成”与“实验执行”模块拼接并不足以解决问题，因为两个阶段对 grounding 的要求不同：发现阶段要求假设值得被检验的理由（why test），执行阶段要求结论值得被接受的证据（why accept）。AutoResearch 通过将二者连接为统一的知识→想法→证据链条，实现 "Insight In, Hallucination Out"：洞察在进入实验前即被 grounded，结论在被接受前亦被证据 grounded。

机器学习 大模型 深度学习 科研学习 发展 提供思路和创新点 创新点实现 人机交互 人工智能