又想买 DGX 了,咋办

又想买 DGX 了,咋办。

看着 glm-5.3-flash,再来一台可以装官方 fp8。再来两台可以装 DeepSeek-V4.1-Flash。

添加评论
点赞收藏
点踩分享
评论9
?
参与讨论
没完啦。建数据中心吧。
9/15/2026
回复
我也在想,凑几桌人,合租机房 GPU 吧。
9/15/2026
回复
回复 @吃手指的葱h 建群吧。
9/15/2026
回复
回复 @V厨 只是考虑,还没有执行。对于个人来说,本地 AI 的普及还没到份上。
9/15/2026
回复
回复 @吃手指的葱h 那你开个中转站吧。
9/15/2026
回复
4 部 DGX Spark + 网络交换机 + 1 部 512G M5 Ultra,这花下去的钱现阶段肯定是……但我猜 2028 年一次设备发布会大概会让人哭,这只需要等两年啊。
9/15/2026
回复
如果需求是 24 小时跑不满的话,可能几家人凑钱,合租 GPU 机房更划算吧。
9/15/2026
回复
意义不大,本来就是本地云端协同。你需要设计的是最大限度减少 token 使用和保护隐私的路由系统、agent 协作的 workflow;普通人烧不起 Infra,研究精度问题会没完没了,拿来用就行了。
9/15/2026
回复
DeepSeek-V4.1-Flash 目前还不实用。glm 5.3 倒是真心不错的东西。
9/15/2026
回复
两台跑 4.1f 有点慢,四台的速度还算差不多。买四台的价格,买套餐能登到你累,还不用电费。
9/15/2026
回复
估计 fp8 的 decode 和 prefill 速度比两台的 4 位量化都更差。本身 4 位现在用起来已经够慢了,而且占满两台的显存,其他服务基本部署不了了,我觉得不值得。
9/15/2026
回复
DGX 感觉很慢啊。为啥不直接 RTX 6000?
9/14/2026
回复
10 token/s 跑着不难受吗?
9/15/2026
回复
一台用不了吧,能跑和能用是两码事。
9/15/2026
回复