量化部署

开发教程11月13日

Mixtral 8x7b Instruct 实测：MoE、本地部署与角色扮演能力

从 Mixtral 8x7b Instruct 的实际体验出发，梳理它与 GPT-4、Claude、GPT-3.5-turbo 的位置差异，解释 MoE 的计算与显存成本，讨论中文角色扮演、长上下文、量化和微调的取舍，并给出本地部署与评测的检查清单。