5090 还是 RTX 8000 48GB（显存）

前沿技术 · 昨天 15:20

目前我有一块4080 16GB的显卡，我想再买一块显卡，希望能在本地运行至少700亿参数的模型。我在两款显卡之间犹豫不决，一款是售价1900美元的RTX 8000，它有64GB的显存；另一款是售价2500美元的5090，它有48GB的显存，但在能容纳的数据范围内速度可能更快。你会选择速度更快的，还是显存更大的呢？更新：我决定买5090，和我的4080一起使用。这样的配置应该能运行700亿参数的模型。等6090上市了，我就把4080换掉。

paichn · 昨天 15:33

先生，你很了解硬件啊。

7.10 · 昨天 15:44

我用的是4090/5090的配置，一台带双线缆的1650瓦金牌电源用起来很不错。

亿照 · 昨天 15:51

对于本地运行大语言模型（LLMs）来说，3090显卡需要进行SLI（多显卡互联技术）吗？

美日情 · 昨天 15:53

别在易趣上找，去搜索论坛和本地分类广告。

高鱼 · 9 小时前

单链路接口（SLI）在运行张量并行（比如使用vllm）方面非常有用。

17679969277 · 7 小时前

那花了多少钱？你打算怎么把5090和4080一起用？

S.A.M · 2 小时前

是啊，就连在美国这边，二手的3090显卡现在也要800多美元了。

		自动登录	找回密码
密码			立即注册

5090 还是 RTX 8000 48GB（显存）

7 回复