技术小白也能看懂：大模型里的量化、蒸馏到底是什么
9月10日，博客园发布《技术小白也能看懂：大模型里的量化、蒸馏到底是什么意思？》科普长文，用生活化比喻讲清模型优化技术。文章指出，7B/14B/70B中的B代表十亿参数，参数越多模型越大、显存与成本越高，于是催生“让模型更小更快更省、又尽量不变笨”的优化技术族：量化是降低参数数字的表示精度（FP16→FP8→INT8→INT4），像把同一个人“压缩”，本质还是同一个模型；蒸馏是让70B“教师模型”教7B“学生模型”，得到能力接近但成本大降的小模型，类似名师带徒弟；剪枝是删除影响很小的参数；微调则是在已有模型上做专项培训。文章强调企业部署追求的不只是聪明，更是“跑得起”。