阿东最近把 jev 和 RAG 结合的工作扒了一遍,10 篇论文加 5 个开源项目。
先说我现在的理解:jev 的价值不是比 LLM 聪明,是把 RAG 管线里的离散决策用概率掉出来,替代 token 生成。顺着这个思路,我看到 8 条融合路线,reranker、检索替身、双系统、路由、多智能体、富重排、安全门、语义数据库。
但最有意思的一条是:把 jev 当 reranker 用,最容易想到,性价比却最低。有篇论文专门打这个脸,0.6B 到 9B 参数范围里,决策微调的 nDCG@10 比专用 reranker 微调差 5 到 29 分。27B 才打平。
真正值钱的是另外两条。一条是替代检索器,DecisionRAG 在 268 万段落语料上每个 query 只要 0.7 到 1.8 秒,Hit@1 比 8B reranker 高 17 分多;SAG2 在多跳数据集上 R@10 做到 86% 到 99%,成本只有 LLM 版的 1/3.4。另一条是双系统,System 1 管快判断,System 2 管慢推理,SearchJev 把准确率从 45% 提到 54%,速度快 5 倍左右。
所以我的判断:jev 的甜区在判断,不在排序。选路、过滤、够不够,这些二分类的活它干得又快又准;排序交给专门的 reranker。
#RAG #jev #大模型 #Agent #决策模型 #检索增强 #LLM #技术分享
阿东,大模型算法工程师,OPC创业者。












