在海外做Token工厂能赚钱
来源：虎嗅网
原文链接：https://www.huxiu.com/article/4895801.html
AI行业还处于基础理论快速刷新的阶段，我最近拿到了一些真实数据，开始写这个议题：生产Token能赚钱吗？
全社会对Token的爆发式需求，始于今年3月，这是个全新的技术、产品和业务模式。某些人所谓的深厚AI经验，大多在故意混淆AI应用、模型训练、Token生产等等毫无相干性的工作。除了品牌商誉之外，没有什么老玩家长期积累，大家都是从零开始的。
现阶段是缺卡加满负载环境，该环境的生产token和调度资源的技术，未来并不一定适用。
Token成本的硬核计算过程：
已知Token成本等于软硬件成本除以Token生产数量。其中Token生产数量是每秒最大Token生产能力和实际资源利用率决定的动态数值。
8卡B300的软硬件日摊销约为900美元。软硬件成本包括硬件摊销加IDC租金加施工摊销加平台软件开销加研发摊销。一台8卡B300服务器，加上网络布线成本，海外售价算65万美元就够了。
这台服务器的功耗要给到15千瓦，按每千瓦每月450美元计算，每月的机柜月租就是6700美元。上述成本汇总结果是2.57万美元每月，每天摊销900美元。
8卡B300每秒生产3万个Token。普通工程师通过阅读SGLang和vLLM的在线文档学习相关技能，对Token引擎做常规优化后，单机8卡B300，10万以内的上下文，可无缓存生产30000个以上的GLM5.2的Token。
实际资源利用率决定成本能不能降下来。倒卖GPU的炒家喜欢预估资源利用率达到100%。每天8万秒，每秒生产3万个无缓存Token，一天就能生产2400M的Token。因为每天硬件成本900美元，每MToken的成本是0.375美元约2.5元，生产Token就是个暴利生意。
实际Token售出比例并不可能达到100%。多方打探后认为Token工厂大约能售出50%的资源。在这个预估口径下，每MToken的成本是0.75美元约5元，这依旧是个利润达标的生意。
Token售价和售出可行性：Token产品没有差异，Token的定价上限是原厂媒体价上浮10%，Token的定价下限是逼近公允的Token成本。
新团队可以成为Token工厂。Token生产当然欢迎新玩家。历史悠久的Token工厂绝大多数去年还基本没有Token营收。
工程师能学会Token生产技术。Token生产是个前端无状态随便迁移，后端大负载低速度的Web应用，这种应用能有多高的技术难度？
现在Token生产已然成势，必然也会像十几年前的云计算行业一样高速发展。这是个朝阳行业，值得我们共同努力。