发帖
 找回密码
 立即注册
搜索
1 0 0
日常闲聊 682 1 4 小时前
在Microcenter花了5400美元买了这台设备,还配了个96GB内存的兄弟机。

接下来准备用它跑很多本地的大语言模型(LLM),用来自动化工作流程,给一些小众生意做AI客服聊天功能,还能生成营销广告/视频并自动发布到社交媒体上。
我现在需要的不是Reddit上的建议,而是关于这台机器和我要干的这些事,我到底该重点学些什么?给我推荐一些YouTube上的内容、播客,还有值得读的文章资料,或者你还有什么想告诉我的都行。

如果你想玩点有意思的,也可以说说你会拿这台机器干啥,要是你想挑战它的极限的话。


──── 0人觉得很赞 ────

使用道具 举报

记住啊,当你用腻了或者想换新玩意儿的时候,随时都能去eBay上把它卖掉,价格大概还能卖个原价的六到七成。
牛啊,太感谢了!
我打算花一半的价格,入手一套128GB的AI MAX解决方案。
看到有人发帖说花6000刀(我猜是美元)买台Mac来做本地大模型,我心里就嘀咕:这钱花得值吗?如果你真想搞清楚这设备到底适不适合你、能不能帮你达成目标,那你现在最该想的不是“买不买”,而是“我要用它来干啥”。当然了,如果你就是喜欢Mac,冲着系统流畅、颜值高、生态好去买的,那没问题,喜欢就上呗。但如果你是为了搞AI、跑本地LLM,那就别急着砸钱。聪明的做法是先在便宜的设备上折腾一阵子——比如用性价比高的PC或云服务器试试水。等你真正搞明白了自己需要多大的算力、什么配置、模型怎么部署,再升级也不迟。你现在看起来还拿不准这台机器到底能帮你做什么,这时候花一大笔钱,风险可不小。说白了,你得先想清楚:你的具体使用场景是什么?是要做个人项目还是商用?对模型精度、响应速度、运行稳定性有多高要求?如果是企业级应用,你怎么保证7x24小时不宕机?服务协议(SLA)怎么定?这些都没想明白的话,没人能告诉你“值不值”。毕竟,没有通用的答案,只有适合你情况的方案。
AI Max 可能在提示处理速度上更胜一筹。当上下文长度更高时,AI Max 的机型说不定就开始反超 M3 Ultra 了。还真挺想看看它们之间的实际跑分对比啊。
但对它来说,这样不太舒服。
哎呀,这表情看起来有点累或者惊讶的感觉啊 😮‍💨你是想表达对某个事情感到惊讶,还是说有点小疲惫呢?来聊聊看~
有件事我得说在前头,写这篇之前我就知道,你心里早就有数了,该不该下手你自个儿清楚得很,根本用不着我来给你泼冷水或者添乱。确实,你现在手里的配置已经挺猛了,火力拉满了都,但就是脑子里那个碎嘴的小声音老在那嘀咕:“哎呀,万一再等等,半年后M5就出了呢?”——这声音吧,就是撵都撵不走。
您需要登录后才可以回帖 立即登录
高级模式