发帖
 找回密码
 立即注册
搜索
0 0 0
日常闲聊 840 0 前天 15:15
我现在在办公室工作,预算大概在2500到3500美元之间,想组装一台能从零开始训练大语言模型(LLM)和计算机视觉模型的电脑。我之前没怎么自己装过PC,所以如果有哪位大佬能给点建议,或者推荐一些学习资源,我都非常感谢!
──── 0人觉得很赞 ────

使用道具 举报

五六千美元这个价位的设备,其实是个更合适的预算。
这是来自 https://www..com/r/LocalLLM/s/ mNsP8eDbOe 的上一篇帖子。
这预算确实有点紧张。不如把钱花在在线GPU和在线训练模型上更实在些——你现在既买不起带大内存的Mac Studio,也买不起配了好的NVIDIA显卡和足够显存的PC。
这预算确实更友好了一些,但说实话,训练出来的模型效果还是会比较有限。  
你要知道,微调模型是一回事,但从头开始完整训练一个模型,那完全是另一回事。  
如果真想搞出一个训练速度还算可以、效果也过得去的东西,我建议你至少准备16,000美元的预算。
有了它,你连大型模型都跑不起来,更别提训练了。
可能他们的意思是指微调吧
3500块买个像样的GPU真不够看,还不如把钱拿去囤点代币香
从零开始训练一个大型语言模型,除了最小的那几种,基本不太现实。至少不太可能在每次训练动辄要花好几个月甚至好几年的情况下,还没有一个明确的时间表来衡量进度。
您需要登录后才可以回帖 立即登录
高级模式