你们这些人在本地运行大语言模型（LLM）时都用什么操作系统呀？我目前用的是Windows系统（我有必要装双系统，再装个Ubuntu吗？）

前沿技术 · 3 小时前

GPU 英伟达 GeForce RTX 4050 6GB
操作系统 Windows 11

考虑到这些配置，哪种型号是最佳选择呢？

我可以使用多个型号并在它们之间切换吗？

我需要一个

用于编码

推理

通用的大语言模型（LLMs）

谢谢！

flzt120 · 2 小时前

对于Windows系统而言，Ollama和樱桃工作室的产品可能是你正在寻找的。至于模型和你的电脑配置——你得在速度和质量之间做出抉择。一般来说，更大的模型（对于6GB显存而言，8B模型似乎是上限）更可靠，但初始化和生成输出所需的时间更长。对于一般用途的大语言模型，我建议选择Dolphin Mistral 。

黑水火 · 2 小时前

卡奇操作系统（CachyOS），我已经多年不用Windows系统了。

帅蓝树儿 · 2 小时前

另外，怎么知道哪些是兼容的呢？

		自动登录	找回密码
密码			立即注册

你们这些人在本地运行大语言模型（LLM）时都用什么操作系统呀？我目前用的是Windows系统（我有必要装双系统，再装个Ubuntu吗？）

相关帖子

3 回复

你们这些人在本地运行大语言模型（LLM）时都用什么操作系统呀？我目前用的是Windows系统（我有必要装双系统，再装个Ubuntu吗？ ）

相关帖子

3 回复

你们这些人在本地运行大语言模型（LLM）时都用什么操作系统呀？我目前用的是Windows系统（我有必要装双系统，再装个Ubuntu吗？）