「本地大模型」相关内容（1篇）

33b对比实录：一次本地部署如何选

33b对比不只看谁的参数更大，还要看同一任务下的准确度、速度和资源消耗。本案例以一台配备24GB显卡、64GB内存的家用电脑为背景，记录从需求确认、候选模型筛选、量化测试到最终部署的全过程。结果显示，适合自己的方案往往不是理论性能最高的那一个。