看了一下DeepInfer的数。我觉得吧,前几天大家转载的那个SiliconData Index的价格,未来一年估计还得不回头地跌个95%+,具体什么时候影响到GPU Rental rate蛮难预测的。
这个价格体系下,梁圣买张卡估计100天就回本了。一旦有朝一日token价格真的暴跌到影响rental rate,所有股价肯定已经跌了一大轮。
给大家几个数,所有的数都是$ / 1 mm token,基本上1mm token 95% cached = 100-150页的薄书.
- Dylan一直在说Jane Street的变现价是$100-200 USD / 1 mm token
- Opus 5.5 / GPT Astra 的价格在deepinfer的体系下大概是1-2 USD / 1 mm token,比标价便宜个80-95%
- 变态的来了,Deepseek 4.1 Flash off-peak的价格在这是1.5美分,又比SOTA便宜个90%。
- 按照一般的大B300 Cluster,根据deepinfer的计算,一个GPU大概能每小时产出2.7 Bn token, 成本换算过来大概是0.25美分 / 1 mm token,这已经比我想象中便宜很多很多了。之前算过我记得是15美分 / 1 mm token,不过没有计算cache。这个level的成本大概率是大机房+高使用率+超高存储时间,一般机房估计都做不到这个theoratical.
- 这也就是大家看到的80-85%毛利 (1.5 / 0.25)。DeepSeek要是以比这个利润率稍好的功率赚钱的话,一个B300大概2-3个月回本,而不是8个月。真是无与伦比的暴利,比贩毒爽多了,自然是砸锅卖铁也要走私B300。
- 如果B300按照break even算的话,那么成本大概是0.13美分 / 1 mm token. 然后原材料其实是B300 ~600k价格的6%不到(按照产业链毛利计算)。
- 所以最后算下来马斯克如果去完全积压的话,每1mm token的最终生产成本可能是0.01美分, or 0.0001 USD。这基本上跟免费差不了太多了。
这种屠夫版的价格我不知道你怎么看,但是when you see the headline API price of Opus @ 8/40 USD input/output,我只能感觉说只要OSS + Post-train和中国模型蒸馏大法能够持续跟随 + 没有新的breakthrough,token 价格未来一段时间应该是以断崖式的下跌。至于什么时候触碰到rental rate, maybe someone smart can tell me.