从双 RTX 2060 12GB 升级到 RX 6800 + 6800 XT 跑 llama.cpp 划算吗?

目前,我在两块RTX 2060 12GB显卡上运行llama.cpp,总显存为24GB。在Qwen3.8 27B IQ4_XS模型、13.1万上下文长度的配置下,我每秒能处理约45个token,对于这套硬件来说已经相当不错了。

最近我发现有促销活动,可以买到一块RX 6800 16GB和一块RX 6800 XT 16GB显卡,这样一来,总显存将从24GB提升至32GB。从规格上看,AMD显卡显然性能更强,显存带宽也更高,但我不确定这些优势在llama.cpp中能否得到充分体现,尤其是在混合多GPU的AMD配置下。

这是否真的会带来显著的性能提升,还是主要只是增加了显存容量,并让我能够使用更高的量化级别或更长的上下文长度?另外,我也很想知道,如今ROCm或Vulkan在6800系列上的表现如何,因为相关评价褒贬不一。

如果有朋友正在使用6800或6800 XT的配置,尤其是搭配Qwen3.8 27B模型,我很想了解你们的每秒处理token数,以及是否会考虑从CUDA切换到这些方案。

参与讨论