【本地AI巨变】llama.cpp集成EAGLE3，推理速度大幅提升！🚀

开源推理库「llama.cpp」的最新版本（b9606）中，实现了新技术「EAGLE3」！

通过创新的「推理式解码（预读验证）」技术，大幅削减了传统推理处理中因内存读取而产生的等待时间。实现了惊人的处理速度。

💡 引入的主要优势・响应速度的大幅缩短和用户体验提升・处理高速化带来的运营成本削减・代码生成等定型模式较多的任务生产性提升

本地AI的实用性进一步迈进一大步，备受瞩目的更新！