1.5TB压到214GB:腾讯混元Hy4 preview轻量版发布开源

1.5TB压到214GB:腾讯混元Hy4 preview轻量版发布开源
IT之家报道,腾讯混元发布并开源Hy4 preview轻量版模型:通过自研Sherry稀疏三值量化与MIX-STQ1_0混合精度技术,将1.5TB的原模型压缩至214GB,体积缩小约86%,而推理性能几乎没有损失。轻量版大幅降低部署显存门槛,使普通开发者和中小团队也能本地运行这一大模型,推动大模型开源生态普及。
原文链接:http://m.toutiao.com/group/7680420572546892342/

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注