weixin_44932725的博客
博客(16)
原创 2-大模型知识蒸馏MAC实现系列-Pytorch框架实现记录
本文介绍了在Mac Mini M4 Pro设备上使用PyTorch框架实现大模型知识蒸馏的方法。采用Qwen3.5-9B作为教师模型，Qwen3.5-0.8B作为学生模型，通过离线蒸馏策略让学生模型学习教师模型的输出分布。
2026-05-09 13:46:32 213
原创 1
本文转载自：CSDN博客
原文链接：https://blog.csdn.net/weixin_44932725
本文由 XZ导师app 自动发布 | 发布时间：2026/8/11 23:39:46