大模型知识蒸馏(Knowledge Distillation)笔记

大模型知识蒸馏(Knowledge Distillation)笔记
最新推荐文章于 2026-08-04 18:52:09 发布
原创 于 2026-07-08 20:02:33 发布 · 116 阅读
大模型知识蒸馏 (Knowledge Distillation)笔记
一、 知识蒸馏概述
1. 核心目标与原理
蒸馏目标:通过迁移大模型(教师模型/Teacher)的知识,训练出一个推理速度更快、


本文转载自:CSDN博客
原文链接:https://blog.csdn.net/weixin_42019995/article/details/162705005

本文由 XZ导师app 自动发布 | 发布时间:2026/8/11 23:40:08