发帖
 找回密码
 立即注册
搜索
3 0 0
日常闲聊 602 3 前天 14:23
公司搞AI客服想找个小体量好用的模型,求推荐。
内部使用,估计日活100,每天有几个人用的。最好回答准确的,幻觉少,能4090 48G单卡部署。
求求求了

──── 0人觉得很赞 ────

使用道具 举报

如果是用单卡的话,那就选 QWEN332B 吧
DeepSeek (如果这里是要解释含义,那可以是:深度搜索 )

但不太明确你给的“deepseek”的具体使用场景,以上是简单处理,要是有更多信息你可以继续向我说明。  
日活100的话,我也觉得直接用官方的API这种方式简单粗暴。
文心一言3吧,再加上一个RAG就够用了
DeepSeek32BQwen QWA量化(这段内容看起来像是专业术语等,本身表述比较简洁,符合中文表述习惯,无需太多修改 )  
模型名称:Qwen330BA3BThinking2507
代码:Qwen3Coder30BA3BInstruct
多模态(图片):Qwen2.5VL32BInstruct
您需要登录后才可以回帖 立即登录
高级模式