DeepSeek 刚刚披露了零利润下 100 万 token 的成本

DeepSeek 近日公布了一些数据，显示其每天处理约 155 万亿个 token，每张 GPU 每小时的收益约为 38 美元。结合这些数据以及对 GPU 成本的一些假设，我们可以估算运行该模型的实际成本。token 类型 非高峰时段 高峰时段 估算的 GPU 成本 输入 0.15 美元 0.30 美元 约 0.029 美元 缓存的输入 0.003 美元 0.006 美元 约 0.0006 美元 输出 0.60 美元 1.20 美元 约 0.120 美元 这意味着在非高峰时段，GPU 计算的利润率约为 80%。这些只是粗略估算，假设 GPU 的成本为每小时 5 美元。此外，这还不包括其他运营费用以及“训练”新模型的成本，当然也不包含薪资等支出。 来源：github.com/deepseek-ai/DeepInfer/blob/main/doc/inference_deployment_qa.md 补充说明：我之所以用引号标注“训练”，是因为这里指的是蒸馏过程。