Beam Search到底是什么？一组图看懂
你有没有想过：AI生成一句话时，为什么不直接选概率最高的词？🤔

其实，大模型通常不是一次性写完整段内容，而是一个Token接一个Token地往下生成。每走一步，模型都会给多个候选打分，再由“解码策略”决定下一步怎么选。

最简单的方法叫Greedy Search：每一步只拿当前概率最高的Top‑1。

优点是快，缺点也很明显——只顾眼前，可能错过整体更好的表达。

Beam Search的思路不一样。它会同时保留B条得分较高的候选路线，继续向下扩展，再按照累计分数筛选。就像走到岔路口时，不急着马上押一条路，而是让几支小队分别往前探索，最后再比较哪条路线整体更好。🦊

它比较适合机器翻译、语音识别、图像描述等输入明确、重视稳定答案的任务。

但Beam Search也不是越宽越好：
✅ 可以比较多条候选，结果通常更稳定
❌ 需要更多计算和显存
❌ 输出可能偏保守、相似，缺少随机性

如果更重视创意和多样性，通常还会考虑Sampling，以及Temperature、Top‑k、Top‑p等控制方式。

需要注意：Beam Search是一种可选解码策略，并不代表所有聊天模型都会默认使用。具体方式会随模型、产品和任务配置而变化。

一句话总结：
Greedy看眼前，Beam看多条路线，Sampling增加随机性。没有万能策略，只有更适合当前任务的选择。✨
人工智能 AI 大模型 BeamSearch 机器学习 深度学习 程序员 AI知识 生成式AI