塔斯娱乐资讯网

涨价前千元老显卡!T10也能跑qwen3.8-flash-next了,对,用的S

涨价前千元老显卡!T10也能跑qwen3.8-flash-next了,对,用的Strata!

T10在上月底突然莫名其妙的大涨,价格从~1000一路干到1300+,原因至今不能理解!
上月买了几张,现在行情慎入!还有很多更有性价比的方案可以候选
本文主要分享这张显卡跑大模型实力如何。[微笑]
T10跟2080ti属于同架构,甚至有人预测T10能魔改成2080ti 22g

我的主机信息:
cpu:E5-2680 v4 *2
内存:ddr4 32GB 2133MHz*4
gpu:T10 16GB
系统:ubuntu22.04
模型:Qwen3.8-Flash-Next-GSQ-RCO-GGUF/IQ3_S

推理速度概况:(图1)
预填充prefill ~700tok/s,解码decoding~30tok/s

这里跑的是最近圈里很火的开源项目strata,t10属于rtx20系,此项目原生支持,所以安装很方便,也跑了好几次我的实际场景了,总体上是能满足我的需求的,在推理速度和模型能力上。

对比项目基准用的rtx5070(12GB),prefill和decoding为是T10的两倍左右(图2)
但要考虑到,rtx5070现在价格在6500左右,T10的这个速度我只能说:qwen3.8flash strata 牛b![灵光一闪]

不知道你们的显卡跑strata速度如何?
大模型 T10