你可能会觉得很多麻烦都藏在 Jetson 的后口袋里。我就有一块 Jetson Orin NX 16GB,说实话,对最终用户来说体验真的很差劲。这玩意儿就是个“装好就别动”的边缘设备,主要面向机器人、物联网这类场景设计的。它用的是定制芯片,没有独立显存,操作系统各种开销全得占你那点宝贵的 VRAM,简直寸土寸金。而且在消费端压根没多少人用,生态特别小众。你要做计算机视觉项目,那还行,还算能打。但如果你想跑个 VLLM?呵呵,准备好吧——性能拉胯不说,还得在极其有限的生态里折腾半天,各种问题等着你排查,简直是自找罪受。 |
|