**智谱公布Infra层面最新...

**智谱公布Infra层面最新进展**

智谱公布Infra层面最新进展，在Tojen吞吐效率、推理成本、KVCache优化层面实现提升，其中系统吞吐最高提升132%，相同硬件条件下服务能力的显著扩容，大幅提升单位算力token吞吐效率，降低推理成本；同时定位多个PD分离架构下的KVCahce复用相关Bug，解决多个CodingAgent相关并发问题，为未来进一步的并发上量打下基础 智谱认为大模型竞争的关注点从“训练侧ScalingLaw”往“服务侧ScalingPain”演化，推理侧Infra与长程任务稳定性的重要性进一步提升，而公司未来也会在AgenticAI未来的Infra层面投入更多的研发力量，在多个维度提升模型与CodingAgent系统的长程可用性、稳定性以及成本效率 原文：