同顺号-创作平台

国内头部的大厂，已经开始组织人力物力开始复现ChatGPT的效果了。但175B的参数除了最头部的大厂之外，其他人都训练不起。即使百度这样的工作，在目前阶段咬咬牙能跟上，往后很可能也跟不上了。

175B参数的模型，意味着即使用float8这样精度的参数，拿Nvidia的V100来做推理（32GB），要5块卡才可以。
A100和H100虽然有80GB显存的版本，但是现在对中国大陆都已经禁运了。

而训练一个20B参数的模型，大概需要100块A100这样量级的显卡。而175B参数的显卡，要上两个数量级，1万块A100/H100。

拿最便宜的40GB的A100，现在大概是1万美元一块。意味着如果你想要搞个20B的模型，比如copilot，先拿100万美金出来。

如果你想要参与大模型的军备竞赛，先拿1亿美金出来买显卡。这还没有算配套的CPU，数据中心的其他设备，电力成本等等。每年不往这个领域里砸上10亿美金，基本上啥新东西也干不了。

另外很重要的一点是，NVidia旗舰线的A100和H100现在对大陆是禁运的。...........

以上是两个月以前业内人士的预测，现在看来正在发生中.....

本周不能起飞吗？是你们还没建好仓吧？