前前代次旗舰游戏显卡RTX3080(魔改20g两张)跑本地大模型口碑之王qwen3.8-27b(q4-k-m)的速度如何？
推理引擎框架：llama.cpp-b10092
从图1和图2可看出：
上下文处理速度即prefill速度，基本上都能在1300+tok/s，挺香！
生成解码decoding的速度从35tok/s掉到30tok/s，这个不太理想了。[流泪]
但3080这个显卡的显存带宽也有760GB/s，而且还是两张啊，这也太低了
回头看看哪里有什么问题，或者上个MTP看看。
你们的3080或者别的卡速度有多少啊
