返回话题列表
二月麦
2026/05/21 22:18
类型 talk 2阅读 1

**在问答环节中,Jensen...

发布者:麦子

**在问答环节中,Jensen的这番话引人注目**

在问答环节中,Jensen的这番话引人注目:“如果英伟达成为全球最大的CPU厂商,我不会感到惊讶,因为市场低估了所有这些不同架构CPU的作用。” 这句话反映了现实,旨在引起那些仍质疑英伟达为何设计定制CPU的市场观察者的注意。 在技术圈之外,CPU(任何CPU)在AI工作负载中的作用仍被广泛误解。 人们普遍理解GPU处理“加速计算”,但CPU处理物流,作为编排层。 在MoE架构中,每个token需要请求调度哪个计算专家来处理,路由请求、调度8位专家并管理存储对话上下文的KV缓存,这正是CPU的作用,在这种情况下,经过专门优化的CPU能胜任这一工作。 正如Jensen在Grace发布时指出的,当分析师问“它有什么用?”——现在的答案可能更清晰了:随着上下文窗口扩展到超出HBM容量,其支持的更大KV缓存和扩展内存子系统,以及1.8TB/s的NVLinkCDC带宽,确保上下文检索不会成为推理的瓶颈。