两周时间，10万颗国产AI加速器，已经开始优化自己的模型。智谱GLM首席科学家唐杰近日在X平台分享了关于GLM-5.3-Flash推理系统优化的研究成果。
从GLM-5.3-Flash首次运行在国产AI加速器上，到完成全部生产流量承载，仅用了两周时间。系统端到端吞吐能力提升了3.2倍。完成大量优化工作的并非只有基础设施工程师，还有一个由GLM-5.3驱动的Infra Agent——”一个帮助优化服务自身的模型”。
两周完成国产算力集群部署
GLM-5.3-Flash此次部署运行在超过10万颗国产AI加速器组成的集群上。团队需要解决国产芯片显存容量和互联带宽限制、新模型架构适配、100万token长上下文支持等问题。通过ReplaySSM用计算换内存、节点内张量并行降低显存压力、混合精度缓存提高利用率、EPD分离式架构等方案，性能提升约3倍。
Infra Agent发现隐藏Bug
在dense feedback机制帮助下，Infra Agent参与了推理系统优化：
1. 发现KDA上下文并行路径中TF32计算的舍入误差累积问题，修复已合并到Flash Linear Attention
2. 发现KV Transfer与DeepEP调度未有效重叠，额外开销从超30%降到1%以下
3. 优化Decode Kernel，通过重新组织计算结构获得1.71倍性能提升
RSI早期形态已出现
GLM-5.3-Flash曾以匿名模型Ox-Alpha运行在OpenCode和OpenRouter平台，六天处理超62万亿token。唐杰表示，一个最小规模的循环已经出现：模型优化系统，系统服务模型。