粉丝3513获赞6699
相关视频
03:58查看AI文稿AI文稿如果你要训练一个大模型，大概要投入哪些成本？我这里可以帮你简单的捋一捋我做的这个二百一十亿的模型为例子。 那么首先第一个你要投入硬件，这是一个大头，嗯，这个硬件的投入多少呢？跟你这个模型的大小是成这个正比的。 二十一 b 的就是二百一十亿的这个模型的话，他大概需要的这个显存量 是这个四百五十 g 左右。如果说你是 a 一百的显卡，那么你就需要啊，六张八十 g 的 a 一百显卡，六八四百八才可能把它给覆盖掉。嗯，价钱的话，现在目前 a 一百 十多万一张吧，然后六张的话大概就在，嗯，八十万左右，八十万左右，加上你一些，嗯，硬件， cpu 啊，内存啊，我觉得这些都是渣渣了 啊，不值钱了。五万块钱以内，那随便可以搞定的啊。这就是最大的一个硬件投入，将近会接近一百万吧。然后第二个投入就是他的电费，不要小瞧他的电费，很夸张的。嗯， a 一百的这个额定功率 是多少来着？将近啊？五百瓦，他在训练的时候其实他会超知道吧？嗯，就以五百瓦为计算，你六张卡的话就是三个千瓦，你把它放 放到嗯，机房里面去练，你要给他配个空调，空调你至少是一个两匹的啊。空调，那你这里至少是五个千瓦， 那么你一天二十四小时下来至少是一百二十度电，如果你这是工业用电，这是一块几一块四一度电，在成都这边， 嗯，普通的商业店嘛，可能就是八九毛的样子，比如说你每天的这个电费至少是一百到一百五之间， 这样一个电费，那么一个月的这个电费啊，至少五千啊，那么这就是硬性的这个输出了，那么其他的还有很多啊，你， 你的场地啊，对吧？你租租赁啊，你不租赁，你放你自己家里是吧？ ok 啊，你家里的电器是很难以承载这种大功率的这个电器的，你要去按电表的啊，按电表又得花钱，按这个动力电，三相电 什么之类的啊？反正一摸耳朵事情，如果你是托管在别人那里，那你还要给托管费啊什么之类的， 有很多，包括你的这个宽带啊，带宽啊这，但这些都是小钱啊，这些都是小钱啊，主要就是刚才说这两个打头，第三个打头就是数据处理的这个费用， 他数据处理的费用包括你去找数据要花的钱，那你要嗯，给员 员工的这个工资啊什么之类的，然后如果你不懂技术，你还得聘请专家去给你做这个指导，如果你自己懂技术，但是你刚才所讲的这些费用都是跑不掉的，所以说 训练一个上百亿的模型，基本上最最最基本的投入，一一百万打底， 一定一定关注我，只有祝我突破一千粉丝，我才能用电脑给大家直播大魔镜，难道非要让我在教研室给你一段热舞，大家才愿意给我一个关注吗？
509野生博士(邪修版)小魔头
