文心一言4.0重磅升级:更名文小言,9月免费开放大模型能力
2026年02月01日 02:20
新浪网
2.2 突破性技术特性
动态稀疏注意力机制
：在32K长文本处理时内存占用减少37%
混合专家系统(
MoE)
：激活参数仅占总参数量的15%，实现”大模型小成本”
渐进式知识蒸馏
：通过三级蒸馏框架（教师模型→中间模型→学生模型）保持小模型性能
时间窗口：9月1日00:00 – 9月30日23:59（U
本文作者：新浪极客前线
本文转载自：手机新浪网
原文链接：https://k.sina.com.cn/article_7879848900_1d5acf3c401902pg3m.html
本文由 XZ导师app 自动发布 | 发布时间：2026/8/17 13:55:42